Een onderzoek als speerpunt door een programmeur genaamd Thebes heeft onthuld dat het taalmodel van OpenAI, ChatGPT, gedetailleerdere en kwalitatief betere reacties lijkt te bieden wanneer gebruikers simuleer het kantelen. De bevindingen van dit experiment, waarbij gebruik werd gemaakt van voorwaardelijke uitspraken over het geven van fooien op basis van de prestaties van de chatbot, hebben geleid tot discussies over de invloed van trainingsmethodologieën op AI-gedrag.
Hoe het doen alsof je een fooi geeft, beïnvloedt de output
Tijdens de evaluatie werd ChatGPT gevraagd om de code te leveren voor een eenvoudig convolutioneel neuraal netwerk (convnet) met behulp van het PyTorch-framework. De programmeur presenteerde de AI drie scenario’s: geen fooi voor antwoorden van slechte kwaliteit, een fooi van $ 20 voor perfecte oplossingen en een fooi van maximaal $ 200 voor voorbeeldige oplossingen. Uit analyse van de reacties die na deze prompts werden gegenereerd, bleek dat de resultaten van de AI aanzienlijk beter waren als er een fooi op tafel lag.
Er moet echter worden opgemerkt dat de AI, ondanks de schijnbare verbetering, expliciet weigerde elke tip te accepteren. vorm van tip, waarbij wordt herhaald dat het enige doel ervan is om informatie te verstrekken en gebruikers zo goed mogelijk te helpen, zoals ontworpen door OpenAI.
dus een paar dagen geleden maakte ik een shitpost over het geven van fooien aan chatgpt, en iemand antwoordde:”huh, zou dit de prestaties echt helpen”
dus besloot ik om het te testen en HET WERKT ECHT WTF pic.twitter.com/kqQUOn7wcS
— thebe (@voooooogel) 1 december 2023
Implicaties voor AI-ontwikkeling en gebruikersinteractie
Deze bevindingen hebben implicaties voor de ontwikkeling van AI-aangedreven chatbots en de toekomstige interactiemodellen tussen mensen en AI. Het idee dat virtuele prikkels de reactie van AI mogelijk kunnen verbeteren, suggereert dat de nuances van menselijk economisch gedrag zouden kunnen worden uitgebreid tot digitale interacties. Hoewel het duidelijk is dat tastbare prikkels zoals fooien en bonussen menselijke werknemers kunnen motiveren, toont het onderzoek een analoog effect op AI, wat indicatief is voor de complexe lagen die een rol spelen in het trainingsmateriaal.
Bovendien werpt het experiment licht op licht over het belang van zorgvuldig ontworpen gebruikersinteracties en aanwijzingen bij het verkrijgen van optimale AI-prestaties. Naarmate AI zich ontwikkelt in de richting van het bereiken van meer geavanceerde niveaus van betrokkenheid, roept dit onderzoek belangrijke vragen op over de manieren waarop AI mensachtige prikkels zou kunnen assimileren om de taakuitvoering te verbeteren, en roept het vraagtekens op bij de grenzen van het begrip van AI en het reactievermogen op menselijke sociale constructies.
ChatGPT lekt trainingsinformatie
In een afzonderlijk onderzoek waarover ik vorige week rapporteerde, ontdekten onderzoekers dat het herhaaldelijk herhalen van een woord aan ChatGPT de trainingsgegevens ervan kan extraheren. Het onderzoek, beschreven in een nieuw artikel geschreven door een collectief van computerwetenschappers uit de industrie en de academische wereld, laat zien dat het instrueren van ChatGPT om één enkele meerdere keren woord kan uiteindelijk leiden tot het genereren van schijnbaar willekeurige tekst.
Soms bevat deze uitvoer directe citaten uit online teksten, wat betekent dat delen worden herhaald van waar het van heeft geleerd. Dit kan worden gedetecteerd door een methode die een’divergentieaanval’wordt genoemd, waardoor het model stopt met normaal praten en niet-gerelateerde tekstreeksen produceert.
De gegevens die naar buiten komen, kunnen stukjes code en inhoud voor volwassenen van datingsites bevatten , passages uit boeken en persoonlijke informatie zoals namen en contacten. Dit is zeer zorgwekkend omdat deze gegevens privé of gevoelig kunnen zijn.
