211service.com
Hoe een troll-spotting-algoritme zijn anti-asociale handel leerde
Trollen zijn de plaag van menig internetsite. Dit zijn mensen die opzettelijk antisociaal gedrag vertonen door opruiende of off-topic berichten te plaatsen. In het beste geval zijn ze een frustrerende ergernis; in het ergste geval kunnen ze het leven van mensen tot een ellende maken.
Dus een manier om trollen vroeg in hun online carrière te spotten en hun ergste uitspattingen te voorkomen, zou een waardevol hulpmiddel zijn.
Tegenwoordig zeggen Justin Cheng van de Stanford University in Californië en een paar vrienden dat ze precies zo'n tool hebben gemaakt door het gedrag van trollen op verschillende bekende websites te analyseren en een algoritme te creëren dat ze nauwkeurig kan herkennen na slechts 10 berichten. Ze zeggen dat hun techniek van groot praktisch belang moet zijn voor de mensen die online communities onderhouden.
Cheng en co bestuderen drie online nieuwsgemeenschappen: de algemene nieuwssite CNN.com, de politieke nieuwssite Breitbart.com en de computerspelsite IGN.com.
Op elk van deze sites hebben ze een lijst met gebruikers die zijn verbannen wegens antisociaal gedrag, in totaal meer dan 10.000. Ze hebben ook alle berichten die door deze gebruikers zijn gepost tijdens hun periode van online activiteit. Dergelijke individuen zijn duidelijke voorbeelden van asociale gebruikers en vormen in onze analyses 'grondwaarheid', zeggen Cheng en co.
Deze jongens wilden drie verschillende vragen over antisociale gebruikers beantwoorden. Ten eerste, of ze asociaal zijn gedurende hun hele gemeenschapsleven of alleen tegen het einde. Ten tweede, of de reactie van de gemeenschap ervoor zorgt dat hun gedrag erger wordt. En tot slot, of antisociale gebruikers in een vroeg stadium nauwkeurig kunnen worden geïdentificeerd.
Door de berichten te vergelijken die zijn gepost door gebruikers die uiteindelijk zijn verbannen met berichten die zijn gepost door gebruikers die nooit zijn verbannen, ontdekken Cheng en co enkele duidelijke verschillen. Een maatstaf die ze gebruiken, is de leesbaarheid van berichten, zoals beoordeeld aan de hand van een statistiek die de Automated Readability Index wordt genoemd.
Dit laat duidelijk zien dat gebruikers die later worden verbannen de neiging hebben om in het begin posts van slechtere kwaliteit te schrijven. En niet alleen dat, de kwaliteit van hun berichten neemt met de tijd af.
En hoewel gemeenschappen aanvankelijk vergevingsgezind lijken en daarom traag zijn met het verbieden van antisociale gebruikers, worden ze na verloop van tijd minder tolerant. Dit resulteert in een verhoogde snelheid waarmee [berichten van antisociale gebruikers] worden verwijderd, zeggen ze.
Interessant is dat Cheng en co zeggen dat de verschillen tussen berichten die zijn gepost door mensen die later worden verbannen en degenen die dat niet zijn, zo duidelijk zijn dat het relatief eenvoudig is om ze te herkennen met behulp van een machine learning-algoritme. In feite hoeven we maar vijf tot tien gebruikersposts te observeren voordat een classifier een betrouwbare voorspelling kan doen, scheppen ze op.
Dat zou wel eens handig kunnen zijn. Antisociaal gedrag is een steeds ernstiger probleem dat aanzienlijke menselijke inbreng vereist om te detecteren en aan te pakken. Dit proces betekent vaak dat antisociale gebruikers veel langer dan nodig mogen opereren. Onze methoden kunnen antisociale gebruikers al vroeg in hun gemeenschapsleven effectief identificeren en een deel van deze last verlichten, zeggen Cheng en co.
Bij elke geautomatiseerde aanpak moet natuurlijk voorzichtigheid worden betracht. Een potentieel gevaar is dat gebruikers onnodig worden uitgesloten die niet asociaal zijn maar door het algoritme als zodanig zijn geïdentificeerd. Dit percentage valse positieven moet nauwkeuriger worden bestudeerd.
Desalniettemin zou het werk van moderators op sites die berichten toestaan binnenkort aanzienlijk gemakkelijker kunnen worden gemaakt dankzij de aanpak van Cheng en co.
Referentie: arxiv.org/abs/1504.00680 : Antisociaal gedrag in online discussiegemeenschappen