Facebook gebruikt bots om te simuleren wat zijn gebruikers zouden kunnen doen

Categorie: Kunstmatige intelligentie Geplaatst 15 april

Facebook heeft een nieuwe methode ontwikkeld om de gevolgen van zijn code uit te spelen.

De context: Zoals elk softwarebedrijf moet de technologiegigant zijn product testen telkens wanneer het updates pusht. Maar de soorten foutopsporingsmethoden die bedrijven van normale grootte gebruiken, zijn niet echt genoeg als je 2,5 miljard gebruikers hebt. Dergelijke methoden zijn meestal gericht op het controleren hoe een enkele gebruiker het platform zou kunnen ervaren en of de software reageert op de acties van die individuele gebruikers zoals verwacht. Daarentegen komen maar liefst 25% van de belangrijkste problemen van Facebook pas aan het licht wanneer gebruikers met elkaar beginnen te communiceren. Het kan moeilijk zijn om te zien hoe de introductie van een functie of updates van een privacy-instelling zou kunnen uitpakken in miljarden gebruikersinteracties.

SimCity: In reactie, Facebook bouwde een verkleinde versie van zijn platform gebruikersgedrag te simuleren. Het wordt WW genoemd en helpt technici de ongewenste gevolgen van nieuwe updates te identificeren en op te lossen voordat ze worden geïmplementeerd. Het beveelt ook automatisch wijzigingen aan die op het platform kunnen worden aangebracht om de community-ervaring te verbeteren.

Bot dubbelgangers: Facebook simuleert honderden tot duizenden gebruikers tegelijk met een mix van hardgecodeerde en op machine learning gebaseerde bots. Deze laatste worden getraind met behulp van een algoritme voor het leren van versterking, dat met vallen en opstaan ​​leert om hun gedrag te optimaliseren in het licht van een bepaald doel. De bots worden vervolgens gemaakt om verschillende scenario's uit te spelen, zoals een oplichter die andere gebruikers probeert uit te buiten of een hacker die toegang probeert te krijgen tot iemands privéfoto's. In een oplichtingsscenario krijgen de oplichtersbots bijvoorbeeld het doel om de beste doelwitten voor oplichting te vinden. De doelbots daarentegen zijn hard gecodeerd met het meest voorkomende kwetsbare gedrag van gebruikers. Elk scenario heeft misschien maar een paar bots die ze uitvoeren, maar het systeem is ontworpen om duizenden verschillende scenario's parallel te laten lopen.

Automatisch ontwerp: Terwijl de scenario's zich afspelen, past het systeem automatisch verschillende parameters in de simulatie aan, zoals de privacy-instellingen van de bots of de beperkingen van hun acties. Bij elke aanpassing evalueert het welke combinatie van parameters het meest gewenste gemeenschapsgedrag oplevert en beveelt het vervolgens de beste versie aan aan de platformontwikkelaars van Facebook.

Aan het zicht onttrokken: Om een ​​zo realistisch mogelijke simulatie te creëren, is WW eigenlijk rechtstreeks op het live-platform gebouwd in plaats van een afzonderlijke testversie - nog een belangrijk verschil met de meeste testschema's. De bots blijven echter achter de schermen. Terwijl een typische gebruiker met Facebook communiceert via een front-end gebruikersinterface, zoals een profiel en andere websitefuncties, kunnen nep-botgebruikers rechtstreeks communiceren met de back-endcode. Hierdoor kunnen ze naast echte gebruikers bestaan ​​en nauwkeuriger verschillende scenario's op het platform simuleren zonder dat die gebruikers ook per ongeluk met hen communiceren.

Toekomst perfect: Op dit moment gebruikt het bedrijf het om functies te testen en te verbeteren die het voor slechte actoren veel moeilijker zouden maken om de communityrichtlijnen van het platform te schenden. Maar het ziet ook andere mogelijke toepassingen voor het systeem, zoals testen hoe platformupdates de betrokkenheid en andere statistieken kunnen beïnvloeden.