211service.com
Hoe weet je of je met een bot praat?
Twitter heeft onlangs drastische maatregelen genomen als onderdeel van een poging om de verspreiding van verkeerde informatie via zijn platform te vertragen, door meer dan twee miljoen geautomatiseerde accounts of bots af te sluiten.
Maar Twitter sloot alleen de meest flagrante en voor de hand liggende overtreders af. Je kunt van de bedriegers verwachten dat ze hun spel verbeteren als het gaat om het vermommen van nepgebruikers als echte.
Het is belangrijk om je niet te laten meeslepen door nepaccounts of je tijd te verspillen aan ruzie met hen, en het identificeren van bots in een Twitter-thread is een vreemde versie van de Turing-test geworden. Posters ervan beschuldigen bots te zijn, is zelfs een vreemd bevredigende manier geworden om hun intelligentie te beledigen.
Vooruitgang in machine learning laat zien hoe bots menselijker kunnen worden. IBM-onderzoekers hebben onlangs een systeem gedemonstreerd dat in staat is om een redelijk coherent argument op te roepen door tekst te minen. En de Duplex-software van Google laat ook zien hoe AI-systemen kunnen leren de nuances van menselijke gesprekken na te bootsen.
Maar technologie kan ook een oplossing bieden. In 2015 leidde het Defense Advanced Research Projects Agency een wedstrijd op Twitter botdetectie . Deelnemers trainden hun systemen om valse accounts te identificeren met behulp van vijf belangrijke datapunten. De resulterende systemen zijn verre van perfect (de beste werkten ongeveer 40 procent van de tijd), maar de inspanningen onthullen hoe je een bot het beste op Twitter kunt herkennen. Misschien gaan we veel meer op deze signalen vertrouwen.
- Gebruikersprofiel
De meest gebruikelijke manier om te zien of een account nep is, is door het profiel te bekijken. De meest rudimentaire bots missen een foto, een link of een bio. Meer geavanceerde kunnen een foto gebruiken die van internet is gestolen, of een automatisch gegenereerde accountnaam. - Tweetsyntaxis
Het gebruik van menselijke taal is nog steeds ongelooflijk moeilijk voor machines. De tweets van een bot kunnen zijn algoritmische logica onthullen: ze kunnen formeel of repetitief zijn, of ze gebruiken reacties die veel voorkomen in chatbotprogramma's. Een voor de hand liggende grap missen en snel van onderwerp veranderen zijn andere veelbetekenende eigenschappen (helaas komen ze ook vrij vaak voor bij menselijke Twitter-gebruikers). - Tweetsemantiek
Bots worden meestal gemaakt met een bepaald doel voor ogen, dus ze kunnen overdreven geobsedeerd zijn door een bepaald onderwerp, misschien dezelfde link steeds opnieuw plaatsen of over weinig anders tweeten. - Tijdelijk gedrag
Kijken naar tweets in de loop van de tijd kan ook onthullend zijn. Als een account in een onmogelijk tempo, op onwaarschijnlijke tijden of zelfs te regelmatig tweet, kan dat een goed teken zijn dat het nep is. Onderzoekers ontdekten ook dat nepaccounts in de loop van de tijd vaak een inconsistente houding ten opzichte van onderwerpen verraden. - Netwerkfuncties
Netwerkdynamiek is voor de meeste gebruikers niet zichtbaar, maar ze kunnen veel over een account onthullen. Bots kunnen slechts een paar accounts volgen of worden gevolgd door vele andere bots. De toon van de tweets van een bot kan ook in strijd zijn met die van zijn connecties, wat wijst op een gebrek aan echte sociale interactie. <