We bestrijden nepnieuws-AI-bots door meer AI te gebruiken. Dat is een vergissing.

Foto van de boekomslag

• Samuel Woolley is een assistent-professor aan de Moody School of Communication aan de Universiteit van Texas-Austin. Dit is een aangepast fragment uit zijn aankomende boek Het Realiteitsspel .

Elke keer dat u zich aanmeldt bij Twitter en naar een populair bericht kijkt, zult u waarschijnlijk bot-accounts vinden die het leuk vinden of erop reageren. Als je doorklikt, zie je dat ze vele malen hebben getweet, vaak in een korte tijdspanne. Soms verkopen hun berichten rommel of verspreiden ze digitale virussen. Andere accounts, vooral de bots die verminkte vitriool posten als reactie op bepaalde nieuwsartikelen of officiële verklaringen, zijn volledig politiek.

Het is gemakkelijk om aan te nemen dat dit hele fenomeen wordt aangedreven door geavanceerde computerwetenschap. Ik heb inderdaad met veel mensen gesproken die denken dat algoritmen voor machinaal leren, aangedreven door machine learning of kunstmatige intelligentie, politieke bots de mogelijkheid geven om van hun omgeving te leren en op een verfijnde manier met mensen om te gaan.

Tijdens evenementen waarin onderzoekers nu geloven dat politieke bots en desinformatie een sleutelrol speelden – het Brexit-referendum, de Trump-Clinton-wedstrijd in 2016, de Krimcrisis – heerste een wijdverbreide overtuiging dat slimme AI-tools computers in staat stelden zich voor te doen als mensen en te helpen manipuleren het openbare gesprek.

Experts en journalisten hebben dit aangewakkerd: er zijn extreem provocerende verhalen over de opkomst van een bewapende AI-propagandamachine en verhalen beweren dat kunstmatige intelligentie de democratie heeft veroverd. Zelfs mijn eigen onderzoek naar hoe sociale media worden gebruikt om de publieke opinie te vormen, de waarheid te hacken en protest tot zwijgen te brengen - wat bekend staat als computationele propaganda - is geciteerd in artikelen die suggereren dat onze robotopperheren er al zijn.

De realiteit is echter dat complexe mechanismen zoals kunstmatige intelligentie tot nu toe weinig rol speelden in computerpropagandacampagnes. Al het bewijs dat ik heb gezien op Cambridge Analytica suggereert dat het bedrijf nooit de psychografische marketingtools heeft gelanceerd die het beweerde te bezitten tijdens de Amerikaanse verkiezingen van 2016, hoewel het zei dat het individuen zou kunnen targeten met specifieke berichten op basis van persoonlijkheidsprofielen die zijn afgeleid van de controversiële Facebook-database.

Toen ik bij het Oxford Internet Institute was, hebben we ondertussen gekeken hoe en of Twitter-bots werden gebruikt tijdens het Brexit-debat. We ontdekten dat hoewel velen werden gebruikt om berichten over de Leave-campagne te verspreiden, de overgrote meerderheid van de geautomatiseerde accounts erg eenvoudig was. Ze zijn gemaakt om online conversaties met bots te veranderen die eenvoudig waren gebouwd om likes en volgers te stimuleren, links te verspreiden, gametrends te verspreiden of oppositie te trollen. Het werd gespeeld door kleine groepen menselijke gebruikers die de magie van memes en viraliteit begrepen, van het online zaaien van samenzweringen en ze zien groeien. Gesprekken werden geblokkeerd door door bot gegenereerde spam en ruis, doelbewust gekoppeld aan bepaalde hashtags om online gesprekken te demobiliseren. Links naar nieuwsartikelen die een politicus in een bepaald licht lieten zien, werden gehyped door nep- of proxy-accounts die waren gemaakt om steeds weer dezelfde rommel te posten en opnieuw te posten. Deze campagnes werden vrij bot uitgevoerd: deze bots waren niet ontworpen om functioneel te communiceren. Ze maakten geen gebruik van AI.

Niet meer dom

Er zijn echter signalen dat computerpropaganda en desinformatie op basis van AI worden gebruikt. Hackers en andere groepen zijn al begonnen met het testen van de effectiviteit van gevaarlijkere AI-bots via sociale media. Een stuk uit 2017 van Gizmodo meldde dat twee datawetenschappers een kunstmatige intelligentie leerden om zijn eigen phishing-campagne te ontwerpen: in tests was de kunstmatige hacker aanzienlijk beter dan zijn menselijke concurrenten, het opstellen en verspreiden van meer phishing-tweets dan mensen, en met een aanzienlijk betere conversieratio.

Problematische inhoud wordt niet alleen verspreid door politieke bots met machine learning. Ook worden problematische toepassingen of ontwerpen van technologie niet alleen gegenereerd door socialemediabedrijven. Onderzoekers hebben erop gewezen dat machine learning kan worden aangetast door gifaanvallen - kwaadwillende actoren die trainingsgegevens beïnvloeden om de resultaten van een bepaald algoritme te veranderen - voordat de machine zelfs maar openbaar wordt gemaakt.

Kalev Leetaru, een senior fellow aan de George Washington University, suggereert dat de eerste aanvallen die worden aangestuurd door AI-bots misschien niet gericht zijn op sociale media, maar in plaats daarvan een zogenaamde gedistribueerde denial-of-service-aanval zouden inhouden, waarbij gerichte webservers worden afgesloten. door ze te overspoelen met verkeer.

Stel je eens voor dat je dat botnet aan de controle van een deep learning-systeem hebt overgedragen en dat AI-algoritme volledige controle hebt gegeven over elke knop en wijzerplaat van dat botnet, Leetaru schrijft .

Deze inspanningen zijn niet gericht op het helpen van nieuwsorganisaties bij het onderzoeken van de bergen inhoud. In plaats daarvan helpen ze een miljardenbedrijf om zijn eigen huis schoon te houden.

Je geeft het ook live feeds van wereldwijde internetstatusinformatie van grote leveranciers van cyberbeveiliging en monitoring over de hele wereld, zodat het van seconde tot seconde kan zien hoe het slachtoffer en de rest van het internet in het algemeen op de aanval reageren. Misschien komt dit allemaal nadat je het algoritme een aantal weken hebt laten besteden aan het tot in detail bewaken van het doelwit om de totaliteit en nuance van zijn verkeerspatronen en -gedrag te begrijpen en zich een weg te banen door de buitenste verdedigingslagen.

Voorbij de verdediging

In april 2018 verscheen Mark Zuckerberg voor het Congres: hij lag onder de politieke microscoop voor het verkeerd omgaan met gebruikersinformatie tijdens de verkiezingen van 2016. In zijn tweedelige getuigenis noemde hij kunstmatige intelligentie meer dan 30 keer, wat suggereert dat AI de oplossing zou zijn voor het probleem van digitale desinformatie door programma's te leveren die de enorme hoeveelheid computationele propaganda zouden bestrijden. Hij voorspelde dat AI in het volgende decennium de redder zou zijn van de enorme schaalproblemen waarmee Facebook en anderen te maken krijgen bij het omgaan met de wereldwijde verspreiding van ongewenste inhoud en manipulatie.

Dus is er een manier waarop we AI of geautomatiseerde bottechnologie kunnen gebruiken om de manipulatie van de publieke opinie online aan te pakken? Kunnen we AI gebruiken om AI te bestrijden?

The Observatory on Social Media aan de Indiana University heeft openbare tools gebouwd die machine learning gebruiken om bots te detecteren door naar 1200 functies te kijken om te bepalen of het waarschijnlijker is dat het een mens of een bot is.

En Facebook-productmanager Tessa Lyons zei in een aankondiging van 2018 dat machine learning ons helpt om duplicaten van ontkrachte verhalen te identificeren. Een factchecker in Frankrijk ontkrachtte bijvoorbeeld de bewering dat je een persoon met een beroerte kunt redden door met een naald in zijn vinger te prikken en bloed af te nemen. Dit stelde ons in staat om meer dan 20 domeinen en meer dan 1.400 links te identificeren die dezelfde claim verspreiden.

In dergelijke gevallen kunnen socialemediabedrijven gebruikmaken van machine learning om feitencontroles van over de hele wereld op te pikken en zelfs te verifiëren, en deze op bewijzen gebaseerde correcties gebruiken om nepinhoud te signaleren.

Er is echter een groot debat in de academische gemeenschap of het passief identificeren van mogelijk valse informatie voor gebruikers van sociale media daadwerkelijk effectief is. sommige onderzoekers suggereren dat factchecks zowel online als offline niet erg effectief werken in hun huidige vorm. Begin 2019 heeft de feitencontrolewebsite Snopes, die in dergelijke corrigerende inspanningen met Facebook had samengewerkt, de relatie verbroken . in een interview met het Poynter Institute zei Snopes's vice-president of operations Vinny Green: Het lijkt er niet op dat we ernaar streven om factchecking door derden praktischer te maken voor uitgevers - het lijkt erop dat we ernaar streven het voor Facebook gemakkelijker te maken.

Organisaties zoals Facebook blijven vertrouwen op kleine, meestal non-profitorganisaties, om inhoud te controleren. Mogelijk onjuiste artikelen of video's worden vaak aan deze groepen doorgegeven zonder achtergrondinformatie over hoe of waarom ze in de eerste plaats zijn gemarkeerd.

Deze inspanningen zijn niet gericht op het helpen van nieuwsorganisaties bij het onderzoeken van de bergen inhoud of leads die ze elke dag ontvangen om onderbeschikte verslaggevers te helpen beter werk te leveren. In plaats daarvan helpen ze een miljardenbedrijf om zijn eigen huis op een post hoc manier schoon te houden. Het wordt tijd dat Facebook intern de verantwoordelijkheid neemt voor het controleren van feiten, in plaats van de taak van het verifiëren of ontkrachten van nieuwsberichten door te geven aan andere groepen. Facebook en andere socialemediabedrijven moeten ook ophouden te vertrouwen op factchecks achteraf, dat wil zeggen pas nadat een vals artikel viraal is gegaan. Deze bedrijven moeten een soort systeem voor vroegtijdige waarschuwing genereren voor computerpropaganda.

Facebook, Google en anderen zoals zij hebben mensen in dienst om inhoud te vinden en te verwijderen die geweld of informatie van terroristische groeperingen bevat. Ze zijn echter veel minder ijverig in hun pogingen om desinformatie kwijt te raken. De overvloed aan verschillende contexten waarin valse informatie online stroomt - overal van een verkiezing in India tot een groot sportevenement in Zuid-Afrika - maakt het lastig voor AI om op zijn eigen, afwezige menselijke kennis te opereren. Maar in de komende maanden en jaren zullen er hordes mensen over de hele wereld nodig zijn om de enorme hoeveelheden inhoud effectief te onderzoeken in de talloze omstandigheden die zich zullen voordoen.

Er is gewoon geen gemakkelijke oplossing voor het probleem van computationele propaganda op sociale media. Het is echter de verantwoordelijkheid van de bedrijven om een ​​manier te vinden om dit op te lossen. Tot nu toe lijkt Facebook veel meer gericht op public relations dan op het reguleren van de stroom van computationele propaganda of grafische inhoud. Volgens The Verge , besteedt het bedrijf meer tijd aan het vieren van zijn inspanningen om bepaalde stukjes vitriool of geweld kwijt te raken dan aan het systematisch herzien van zijn moderatieprocessen.

Meer dan feitencontrole

Het zal een combinatie van menselijke arbeid en AI zijn die er uiteindelijk in zal slagen computerpropaganda te bestrijden, maar hoe dit zal gebeuren is gewoon niet duidelijk. AI-verbeterde feitencontrole is slechts één weg vooruit. Machine learning en deep learning kunnen, in samenwerking met menselijke werkers, computerpropaganda, desinformatie en politieke intimidatie op verschillende andere manieren bestrijden.

Jigsaw, de op Google gebaseerde technologie-incubator waar ik een termijn van een jaar als research fellow diende, ontwierp en bouwde een op AI gebaseerde tool genaamd Perspective om online trollen en haatspraak te bestrijden. Deze tool (waar ik zelf niet aan heb gewerkt) is een API waarmee ontwikkelaars automatisch giftige taal kunnen detecteren.

Het is controversieel omdat het niet alleen het risico loopt van valse positieven - het markeren van berichten die niet echt trollen of misbruik bevatten - maar ook spraak modereert. Volgens Bedrade , is de tool getraind met behulp van machine learning, maar een dergelijke tool is ook getraind met input van mensen, die hun eigen vooroordelen hebben. Dus zou een tool die is gebouwd om racistische of haatdragende taal te detecteren, kunnen falen vanwege een gebrekkige training?

In 2016 lanceerde Facebook Deeptext, een AI-tool vergelijkbaar met Google's Perspective. Het bedrijf zegt: het hielp bij het verwijderen van meer dan 60.000 haatdragende berichten per week. Facebook gaf echter toe dat de tool nog steeds afhankelijk was van een grote groep menselijke moderators om schadelijke inhoud daadwerkelijk te verwijderen. Ondertussen heeft Twitter eind 2017 eindelijk stappen gezet om zorgvuldiger te werk te gaan bij het verbieden van soortgelijke bedreigende of gewelddadige berichten. Maar hoewel het is begonnen dit problematische materiaal te beteugelen - en ook hordes politieke bot-accounts verwijdert - heeft Twitter geen duidelijke aanwijzingen gegeven over hoe het accounts detecteert en verwijdert. Mijn onderzoeksmedewerkers en ik blijven bijna elke maand enorme manipulatieve botnets op Twitter vinden.

Voorbij de horizon

Het is niet verwonderlijk dat een technoloog als Zuckerberg een technologische oplossing zou voorstellen, maar AI is op zichzelf niet perfect. De kortzichtige focus van tech-leiders op computergebaseerde oplossingen weerspiegelt de naïviteit en arrogantie die ervoor zorgden dat Facebook en anderen gebruikers in de eerste plaats kwetsbaar maakten.

Er zijn nog geen legers slimme AI-bots die de publieke opinie proberen te manipuleren tijdens omstreden verkiezingen. Zal er in de toekomst zijn? Misschien. Maar het is belangrijk op te merken dat zelfs legers van slimme politieke bots niet alleen zullen functioneren: ze zullen nog steeds menselijk toezicht nodig hebben om te manipuleren en te misleiden. We worden hier niet geconfronteerd met een online versie van The Terminator. Beroemdheden op het gebied van computerwetenschap en AI, waaronder Turing Award-winnaar Ed Feigenbaum en Geoff Hinton, de peetvader van deep learning, hebben sterk gepleit tegen de angst dat de singulariteit - het onstuitbare tijdperk van slimme machines - binnenkort komt. In een onderzoek onder fellows van de American Association of Artificial Intelligence zei meer dan 90% dat superintelligentie buiten de voorzienbare horizon ligt. De meeste van deze experts waren het er ook over eens dat wanneer en als superslimme computers arriveren, ze geen bedreiging voor de mensheid zullen vormen.

Stanford-onderzoekers werken aan het volgen van de stand van zaken in AI stel voor dat onze machine-opperheren op dit moment nog steeds niet het gezond verstand of de algemene intelligentie van zelfs een 5-jarige kunnen vertonen. Dus hoe zullen deze instrumenten de menselijke heerschappij ondermijnen of, laten we zeggen, buitengewoon menselijke sociale problemen oplossen, zoals politieke polarisatie en een gebrek aan kritisch denken? De Wall Street Journal zet het kort in 2017 : Zonder mensen is kunstmatige intelligentie nog steeds behoorlijk dom.

Grady Booch, een vooraanstaand expert op het gebied van AI-systemen, staat ook sceptisch tegenover de opkomst van superslimme malafide machines, maar om een ​​andere reden. In een TED-talk in 2016 , zei hij dat ons nu zorgen maken over de opkomst van een superintelligentie in veel opzichten een gevaarlijke afleiding is, omdat de opkomst van de computer zelf ons een aantal menselijke en maatschappelijke problemen met zich meebrengt waar we nu aandacht aan moeten besteden.

Belangrijker, benadrukte Booch, de huidige AI-systemen kunnen allerlei verbazingwekkende dingen doen, van praten met mensen in natuurlijke taal tot het herkennen van objecten, maar deze dingen worden door mensen beslist en gecodeerd met menselijke waarden. Ze zijn niet geprogrammeerd, maar ze leren hoe ze zich moeten gedragen.

In wetenschappelijke termen is dit wat we grondwaarheid noemen, zegt Booch, en dit is het belangrijke punt: door deze machines te produceren, leren we ze daarom een ​​besef van onze waarden. Daartoe vertrouw ik op een kunstmatige intelligentie hetzelfde, zo niet meer, als een goed getrainde mens.

Ik zou het idee van Booch nog verder doortrekken. Om het probleem van computationele propaganda aan te pakken, moeten we ons richten op de mensen achter de tools.

Ja, de steeds evoluerende technologie kan de verspreiding van desinformatie en trollen automatiseren. Het kan daders anoniem en zonder angst voor ontdekking laten opereren. Maar deze reeks instrumenten als een manier van politieke communicatie is uiteindelijk gericht op het bereiken van het menselijke doel van controle. Propaganda is een menselijke uitvinding, en het is zo oud als de samenleving. Zoals een expert op het gebied van robotica me ooit vertelde, moeten we niet bang zijn voor machines die zo slim zijn als mensen, maar wel voor mensen die niet slim zijn over hoe ze machines bouwen.

Uittreksel uit The Reality Game: hoe de volgende golf van technologie de waarheid zal breken, door Samuel Woolley. Copyright 2020. Verkrijgbaar bij PublicAffairs, een afdruk van Hachette Book Group, Inc.

zich verstoppen