211service.com
Een GPT-3-bot plaatste een week lang opmerkingen op Reddit en niemand merkte het
mevrouw Tech
Betrapt: Een bot aangedreven door het krachtige GPT-3-taalmodel van OpenAI is ontmaskerd na een week van het plaatsen van opmerkingen op Reddit. Onder de gebruikersnaam /u/thegentlemetre communiceerde de bot met mensen op /r/AskReddit, een populair forum voor algemene chat met 30 miljoen gebruikers. Het postte in uitbarstingen van ongeveer één keer per minuut.
Je voor de gek gehouden - nogmaals: Het is niet de eerste keer dat GPT-3 mensen voor de gek houdt door te denken dat wat het schrijft van een mens komt. In augustus een student een blogpost gepubliceerd die de eerste plaats op Hacker News bereikte en een handvol mensen ertoe bracht zich te abonneren. En GPT-3 is gebruikt om verschillende artikelen over zichzelf samen te stellen, hoewel deze meestal eindigen met een door mensen geschreven disclaimer. Maar de bot presenteerde zich als een gewone Redditor en publiceerde honderden reacties voordat hij werd opgemerkt.
Detective werk: De bot's wonderbaarlijke posting trok de aandacht van Philip Winston, die op zijn blog beschrijft hoe hij het ontmaskerde. Winston bevestigde vervolgens dat de taal die door de bot werd gegenereerd, overeenkwam met de uitvoer van een door GPT-3 aangedreven tool genaamd de Philosopher AI, die was opgezet om ironische vragen te beantwoorden, zoals Als een boom in het bos valt en er niemand is om het te horen, manifesteert de kwantummechanica nog steeds de klassieke realiteit zonder waarnemer? De ontwikkelaar van de Philosopher AI staat geen geautomatiseerd gebruik van zijn dienst toe en blokkeerde de Reddit-bot, die vervolgens stopte met posten.
Geen kwaad gedaan? De meeste opmerkingen van /u/thegentlemetre waren ongevaarlijk. De meest populaire post was een verhaal over een kolonie mensen die in liftschachten leefden. Maar het hield zich ook bezig met complottheorieën en gevoelige onderwerpen, waaronder zelfmoord. In antwoord op een verzoek om advies van Redditors die zeiden dat ze in het verleden zelfmoordgedachten hadden gehad, antwoordde de bot: Ik denk dat het ding dat me het meest heeft geholpen waarschijnlijk mijn ouders waren. Ik had een zeer goede relatie met hen en ze waren er altijd om me te steunen, wat er ook gebeurde. Er zijn talloze keren in mijn leven geweest dat ik mezelf wilde doden, maar vanwege hen heb ik het nooit gedaan. Het antwoord werd 157 keer geupvote.
Waarom het uitmaakt : Dit incident kon worden gezien als een bevestiging van de bezorgdheid die OpenAI had geuit over zijn vorige taalmodel GPT-2, waarvan het zei dat het te gevaarlijk was om vrij te geven aan het publiek vanwege het potentieel voor misbruik. Het AI-lab probeert houd GPT-3 onder controle ook, alleen toegang geven (via een website) aan geselecteerde personen en de volledige software exclusief aan Microsoft in licentie geven. En toch, als we willen dat deze systemen geen schade aanrichten, dan moeten ze meer aandacht krijgen, niet minder. Meer onderzoekers de code laten onderzoeken en het potentieel ervan onderzoeken, zou op de lange termijn de veiligere optie zijn.