211service.com
Hoe geavanceerde socialbots Twitter hebben geïnfiltreerd
Als je een Twitter-account hebt, is de kans groot dat je minder dan 50 volgers hebt en dat je zelf minder dan 50 mensen volgt. Je kent waarschijnlijk veel van deze mensen goed, maar er kunnen er ook een paar op je lijst staan die je nog nooit hebt ontmoet.
Dus hier is een interessante vraag: hoe weet je dat deze Twitter-gebruikers echte mensen zijn en geen geautomatiseerde accounts, ook wel bots genoemd, die je links en berichten geven die zijn ontworpen om je mening te beïnvloeden?
Je zou kunnen zeggen dat bots niet erg geavanceerd zijn en zo gemakkelijk te herkennen. En dat Twitter de Twittersphere controleert op zoek naar en verwijdert alle geautomatiseerde accounts die het vindt. Daarom is het onwaarschijnlijk dat u onbewust geautomatiseerde accounts volgt, kwaadaardig of niet.
Als je die mening hebt, zou je die misschien willen herzien naar aanleiding van het werk van Carlos Freitas van de Federale Universiteit van Minas Gerais in Brazilië en een paar vrienden, die hebben onderzocht hoe gemakkelijk het is voor socialbots om Twitter te infiltreren.
Hun bevindingen zullen verrassen. Ze zeggen dat een aanzienlijk deel van de socialbots die ze hebben gemaakt, niet alleen sociale groepen op Twitter infiltreerde, maar ook onder hen invloedrijk werd. Bovendien hebben Freitas en co de kenmerken geïdentificeerd die socialbots de meeste kans van slagen maken.
Deze jongens begonnen met het maken van 120 socialbots en lieten ze los op Twitter. De bots kregen een profiel, werden mannelijk of vrouwelijk gemaakt en kregen om te beginnen een paar volgers, waarvan sommige andere bots.
De bots genereren tweets door berichten die anderen hebben gepost opnieuw te posten of door hun eigen synthetische tweets te maken met behulp van een reeks regels om veelvoorkomende woorden over een bepaald onderwerp te kiezen en ze samen te voegen tot een zin.
De bots kregen ook een activiteitsniveau. Hoge activiteit staat gelijk aan minstens één keer per uur posten en lage activiteit staat gelijk aan één keer per twee uur doen (hoewel beide groepen behoorlijk actief zijn in vergelijking met de meeste mensen). De bots sliepen ook tussen 22.00 uur. en 9 uur Pacific time om de uitvaltijd van menselijke gebruikers te simuleren.
Ten slotte werden ze opgezet om een van de drie verschillende groepen mensen te volgen. De eerste bestond uit 200 mensen willekeurig geselecteerd uit de Twitter-stream, de tweede was 200 mensen die regelmatig tweets plaatsen over een specifiek onderwerp in dit geval softwareontwikkeling, en de laatste groep bestond uit 200 softwareontwikkelaars die allemaal sociaal met elkaar verbonden waren op Twitteren.
Nadat ze de socialbots hadden losgelaten, was de eerste vraag die Freitas en co wilden beantwoorden of hun aanklachten de verdediging konden omzeilen die door Twitter was opgezet om geautomatiseerd posten te voorkomen. In de 30 dagen dat het experiment werd uitgevoerd, werden 38 van de 120 socialbots geschorst, zeggen ze. Met andere woorden, 69 procent van de sociale bots ontsnapte aan detectie.
De interessantere vraag was echter of de sociale bots met succes kunnen infiltreren in de sociale groepen waarvoor ze zijn opgericht. En wat dat betreft zijn de resultaten verrassend. Gedurende de duur van het experiment ontvingen de 120 socialbots in totaal 4.999 volgers van 1.952 verschillende gebruikers. En meer dan 20 procent van hen kreeg meer dan 100 volgers, wat meer is dan 46 procent van de mensen op Twitter.
Freitas en co hielden ook de Klout-score van elk van hun sociale bots bij om te zien hoe ze het deden. (Klout is een online dienst die de invloed van Twitter-accounts meet en deze een score tussen 0 en 100 geeft). We stellen vast dat de socialbots Klout-scores behaalden van dezelfde orde van (of soms zelfs hoger dan) verschillende bekende academici en onderzoekers van sociale netwerken, zeggen ze.
Het team heeft de gegevens ook uit elkaar gehaald om erachter te komen welke factoren hebben bijgedragen aan het succes van de bots. Het is niet verwonderlijk dat het activiteitsniveau belangrijk is en dat de actievere bots een grotere populariteit bereikten in hun sociale netwerken. Dat is te verwachten, aangezien actievere bots eerder door anderen worden gezien (hoewel ze ook eerder worden gedetecteerd door de verdedigingsmechanismen van Twitter).
Verrassenderwijs presteerden de socialbots die synthetische tweets genereerden (in plaats van alleen maar opnieuw te posten) ook beter. Dat suggereert dat Twitter-gebruikers geen onderscheid kunnen maken tussen berichten die door mensen en door bots zijn gegenereerd. Dit komt mogelijk doordat een groot deel van de tweets op Twitter in een informele, grammaticaal onsamenhangende stijl zijn geschreven, zodat zelfs eenvoudige statistische modellen tweets kunnen produceren met een kwaliteit die vergelijkbaar is met die van mensen op Twitter, suggereren Freitas en co.
Ook de groepen die de socialbots moesten volgen hadden een groot effect. De groep van sociaal verbonden softwareontwikkelaars produceerde de minste volgers, terwijl de groep willekeurig gekozen softwareontwikkelaars het grootste aantal van hen genereerde.
Geslacht speelde ook een rol. Terwijl mannelijke en vrouwelijke bots in het algemeen even effectief waren, waren vrouwelijke sociale bots veel effectiever in het genereren van volgers onder de groep sociaal verbonden softwareontwikkelaars. Dit suggereert dat het geslacht van de socialbots een verschil kan maken als de beoogde gebruikers gendervooroordelen hebben, zeggen Freitas en vrienden.
Dat is een interessant werkstuk. Het suggereert dat de Twittersphere mogelijk kwetsbaarder is voor geautomatiseerde aanvallen dan eerder werd gedacht.
Het is een bevinding die belangrijke implicaties kan hebben voor bepaalde soorten groepen op Twitter. De afgelopen jaren zijn er een aantal diensten ontstaan om de interesse en mening van Twitter-gebruikers te meten over een breed scala aan onderwerpen, zoals stemintentie, productsentiment, ziekte-uitbraken, natuurrampen enzovoort.
De zorg is dat geautomatiseerde bots kunnen worden ontworpen om de mening op een of meer van deze gebieden aanzienlijk te beïnvloeden. Het zou bijvoorbeeld relatief eenvoudig zijn om een bot te maken die valse geruchten verspreidt over een politieke kandidaat op een manier die een verkiezing zou kunnen beïnvloeden.
Het werk van Freitas en co is dus een wake-up call voor Twitter. Als het dit soort aanvallen met succes wil voorkomen, zal het zijn verdedigingsmechanismen aanzienlijk moeten verbeteren. En aangezien dit werk onthult wat bots succesvol maakt, heeft het onderzoeksteam van Twitter een voordeel.
De kunst is om sociale bots te herkennen en uit te sluiten zonder menselijke gebruikers per ongeluk uit te sluiten. Dat zal geen gemakkelijke opgave zijn.
Maar met naar schatting 20 miljoen nep-Twitter-accounts die al zijn opgezet, hebben de onderzoekers van Twitter genoeg gegevens om mee te werken.
Referentie: arxiv.org/abs/1405.4927 : Reverse Engineering Socialbot-infiltratiestrategieën op Twitter