Toekomstige verkiezingen kunnen worden beïnvloed door intelligente, bewapende chatbots

Magoz

De strijd tegen propagandabots is een wapenwedloop voor onze democratie. Het is er een die we misschien gaan verliezen. Bots - eenvoudige computerscripts - zijn oorspronkelijk ontworpen om repetitieve taken zoals het organiseren van inhoud of het uitvoeren van netwerkonderhoud te automatiseren, waardoor mensen urenlang verveling worden bespaard. Bedrijven en mediakanalen gebruiken ook bots om accounts op sociale media te beheren, om gebruikers onmiddellijk op de hoogte te stellen van het laatste nieuws of om nieuw gepubliceerd materiaal te promoten.

Maar ze kunnen ook worden gebruikt om grote aantallen nepaccounts te beheren, waardoor ze ideaal zijn om mensen te manipuleren. Ons onderzoek bij het Computational Propaganda Project bestudeert de talloze manieren waarop politieke bots die gebruikmaken van big data en automatisering zijn gebruikt om desinformatie te verspreiden en het online discours te verstoren.

Dit verhaal maakte deel uit van ons septembernummer 2018

• Zie de rest van het nummer
• Abonneren

Bots hebben bewezen een van de beste manieren te zijn om extremistische standpunten op sociale media te verspreiden, maar ook om dergelijke meningen van andere, echte accounts te versterken door te liken, delen, retweeten, een hart onder de riem te steken en te volgen, net zoals een mens zou doen. Door dit te doen, spelen ze de algoritmen af ​​en belonen ze de berichten waarmee ze interactie hebben gehad door ze meer zichtbaarheid te geven.

Dit zal tam lijken in vergelijking met wat er onderweg is.

Kracht in cijfers

In de nasleep van de Russische inmenging in de Amerikaanse verkiezingen van 2016 ontstond er een golf van discussie over hoe de politiek te beschermen tegen propaganda. Twitter heeft dit jaar voor tientallen miljoenen verdachte accounts verwijderd, waaronder bots, terwijl regelgevers botverboden en transparantiemaatregelen hebben voorgesteld en hebben opgeroepen tot betere samenwerking met internetplatforms.

Het kan dus lijken alsof we de overhand krijgen. En dat is gedeeltelijk waar: de tactieken van de bots hebben hun nieuwigheid verloren en hebben nooit finesse gehad. Vroeger lag hun kracht in aantallen. Propagandisten zouden legers van hen mobiliseren om het internet te overspoelen met berichten en antwoorden in een poging om echt democratisch discours te overweldigen. Omdat we technische tegenmaatregelen hebben getroffen die botachtig gedrag beter kunnen detecteren, is het gemakkelijker geworden om ze uit te schakelen. Ook mensen zijn alerter en effectiever geworden in het spotten ervan. De gemiddelde bot doet weinig om zijn robotkarakter te verbergen, en een snelle blik op zijn tweetpatronen, of zelfs zijn profielfoto, kan het verraden.

De volgende generatie bots evolueert echter snel. Voor een groot deel dankzij de vooruitgang in de verwerking van natuurlijke taal - dezelfde technologie die spraakgestuurde interfaces mogelijk maakt, zoals Amazon's Alexa, Google Assistant en Microsoft's Cortana - zullen deze bots zich veel meer als echte mensen gedragen.

Toegegeven, deze conversatie-interfaces zijn nog steeds hobbelig, maar ze worden beter, en de voordelen van het succesvol kunnen decoderen van menselijke taal zijn enorm. Digitale assistenten zijn slechts één gebruik ervan: merken gebruiken chatbots voor de klantenservice en uitgevers zoals CNN gebruiken ze om gepersonaliseerde media-inhoud te verspreiden.

Dergelijke chatbots verklaren openlijk dat ze geautomatiseerd zijn, maar de propagandabots niet. Ze presenteren zichzelf als menselijke gebruikers die deelnemen aan online gesprekken in commentaarsecties, groepschats en prikborden.

In tegenstelling tot wat vaak wordt gedacht, gebeurt dit nog niet. De meeste bots reageren alleen op trefwoorden die een standaardantwoord uitlokken, wat zelden in de context of syntaxis van een bepaald gesprek past. Deze reacties zijn vaak gemakkelijk te herkennen.

Maar het wordt moeilijker. Sommige eenvoudige voorgeprogrammeerde botscripts zijn er al in geslaagd gebruikers te misleiden. Naarmate bots de context en intentie leren begrijpen, worden ze bedrevener in het aangaan van een gesprek zonder hun dekmantel te verliezen.

Over een paar jaar kunnen gespreksbots gevoelige gebruikers opzoeken en benaderen via privéchatkanalen. Ze navigeren welsprekend door gesprekken en analyseren de gegevens van een gebruiker om aangepaste propaganda te leveren. Bots wijzen mensen op een gemoedelijke manier op extremistische standpunten en tegenargumenten.

In plaats van propaganda naar iedereen uit te zenden, richten deze bots hun activiteiten op invloedrijke mensen of politieke dissidenten. Ze vallen individuen aan met gescripte haatzaaiende uitlatingen, overstelpen ze met spam of laten hun accounts afsluiten door hun inhoud als beledigend te melden.

Geweldig voor Google, geweldig voor bots

Het is de moeite waard om te kijken hoe de AI-technieken die dit soort bots aansturen, beter worden, omdat de methoden die door technologiebedrijven worden gebruikt ook geweldig zijn om de mogelijkheden van politieke bots te vergroten.

Om te werken, vereist natuurlijke taalverwerking aanzienlijke hoeveelheden gegevens. Techbedrijven zoals Google en Amazon krijgen dergelijke gegevens door hun taalverwerkingsalgoritmen voor het publiek open te stellen via applicatieprogrammeerinterfaces of API's. Derden, zoals een bank, die gesprekken met hun klanten willen automatiseren, kunnen onbewerkte gegevens, zoals de audio- of tekstscripts van telefoongesprekken, naar deze API's sturen. Algoritmen verwerken de taal en retourneren machineleesbare gegevens die klaar zijn om opdrachten te activeren. In ruil daarvoor krijgen de technologiebedrijven die deze API's leveren toegang tot grote hoeveelheden gespreksvoorbeelden, die ze kunnen gebruiken om hun machine learning en algoritmen te verbeteren.

Bovendien stellen bijna alle grote technologiebedrijven open source-algoritmen voor natuurlijke taalverwerking beschikbaar aan ontwikkelaars. De ontwikkelaars kunnen deze gebruiken om nieuwe, propriëtaire applicaties te bouwen, bijvoorbeeld software voor een spraakgestuurde robot. Naarmate ontwikkelaars de oorspronkelijke algoritmen verder ontwikkelen en verfijnen, profiteren de technologiebedrijven van hun feedback.

Het probleem is dat dergelijke diensten voor bijna iedereen breed toegankelijk zijn, inclusief de mensen die politieke bots bouwen. Door een toolkit te bieden voor het automatiseren van gesprekken, leren technologiebedrijven ongewild propaganda om te praten.

Het ergste moet nog komen

Bots die vertrouwd zijn met menselijke taal blijven voorlopig uitschieters. Het vereist nog steeds substantiële expertise, rekenkracht en trainingsgegevens om bots uit te rusten met geavanceerde algoritmen voor taalverwerking. Maar het is niet buiten bereik. Sinds 2010 hebben politieke partijen en regeringen meer dan een half miljard dollar uitgegeven aan manipulatie van sociale media, waardoor het een zeer geprofessionaliseerde en goed gefinancierde sector is geworden.

Er is nog een lange weg te gaan voordat een bot een mens kan vervalsen in een één-op-één gesprek. Maar naarmate de algoritmen evolueren, zullen die mogelijkheden naar voren komen.

Zoals met elke andere innovatie, zullen deze AI-technieken, zodra ze uit de doos zijn, onvermijdelijk loskomen van de beperkte reeks toepassingen waarvoor ze oorspronkelijk waren ontworpen.

Lisa-Maria Neudert is promovendus bij het Oxford Internet Institute en onderzoeker bij het Computational Propaganda Project.

zich verstoppen