211service.com
Hoe het spelen van een draak een AI kan leren manipuleren en te overtuigen
Een AI die missies voltooit in een op tekst gebaseerd avonturenspel door met de personages te praten, heeft niet alleen geleerd hoe je dingen moet doen, maar ook hoe je anderen dingen doen. De systeem is een stap in de richting van machines die taal kunnen gebruiken om hun doelen te bereiken.
Zinloos proza: Taalmodellen zoals GPT-3 zijn briljant in het nabootsen van door mensen geschreven zinnen, het verzinnen van verhalen, nepblogs en Reddit-berichten . Maar buiten de productie van de tekst zelf heeft deze productieve output weinig zin. Wanneer mensen taal gebruiken, wordt het gehanteerd als een hulpmiddel: onze woorden overtuigen, bevelen en manipuleren; ze maken mensen aan het lachen en maken mensen aan het huilen.
Dingen door elkaar halen: Om een AI te bouwen die met een reden woorden gebruikte, combineerden onderzoekers van het Georgia Institute of Technology in Atlanta en Facebook AI Research technieken uit natuurlijke taalverwerking en versterkingsleren, waarbij machine learning-modellen leren hoe ze zich moeten gedragen om bepaalde doelen te bereiken. Op beide terreinen is de afgelopen jaren een enorme vooruitgang geboekt, maar er is weinig kruisbestuiving tussen de twee.
Woordspellen: Om hun aanpak te testen, trainden de onderzoekers hun systeem in een op tekst gebaseerd multiplayer-spel genaamd LICHT , vorig jaar door Facebook ontwikkeld om de communicatie tussen mens en AI-spelers te bestuderen. De game speelt zich af in een fantasiewereld vol met duizenden crowdsourced objecten, personages en locaties die worden beschreven en gebruikt via tekst op het scherm. Spelers (mens of computer) handelen door commando's te typen zoals knuffel tovenaar, draak raken of hoed verwijderen. Ze kunnen ook praten met de door een chatbot bestuurde karakters.
Drakenzoektocht: Om hun AI redenen te geven om dingen te doen, hebben de onderzoekers ongeveer 7.500 crowdsourced-speurtochten toegevoegd, die niet zijn opgenomen in de originele versie van LIGHT. Ten slotte creëerden ze ook een kennis grafiek (een database van subject-werkwoord-objectrelaties) die de AI gezond verstand informatie gaf over de wereld van het spel en de verbindingen tussen de personages, zoals het principe dat een handelaar een bewaker alleen zal vertrouwen als ze vrienden zijn. Het spel had nu acties (zoals Ga naar de bergen en Eet de ridder) om uit te voeren om missies te voltooien (zoals Bouw de grootste schat die ooit door een draak is bereikt).
Slijmer: Door dit allemaal samen te brengen, trainden ze de AI om missies te voltooien, gewoon door taal te gebruiken. Om acties uit te voeren, kan het ofwel de opdracht voor die actie typen of hetzelfde doel bereiken door met andere personages te praten. Als de AI bijvoorbeeld een zwaard nodig had, kon het ervoor kiezen om er een te stelen of een ander personage te overtuigen om er een te overhandigen.
Voorlopig is het systeem speelgoed. En zijn manier kan bot zijn: op een gegeven moment, als hij een emmer nodig heeft, zegt hij gewoon: geef me die emmer of ik zal je aan mijn kat voeren! Maar het vermengen van NLP met versterkend leren is een spannende stap die niet alleen kan leiden tot betere chatbots die kunnen argumenteren en overtuigen, maar ook tot chatbots die een veel beter begrip hebben van hoe onze met taal gevulde wereld werkt.