211service.com
Vrouwelijke zwarte journalisten en politici krijgen elke 30 seconden een beledigende tweet toegestuurd
Machine learning onthult een verontrustend niveau van intimidatie, misbruik en trollen gericht op vrouwen en minderheden op Twitter. 18 december 2018
Marten Bjork | Unsplash
Twitter kan een giftige plek zijn. In de afgelopen jaren hebben trollen en intimidatie op de site ervoor gezorgd dat het voor veel mensen, vooral vrouwen en minderheden, een uiterst onaangename en verontrustende ervaring is geworden. Maar het automatisch identificeren en stoppen van dergelijk misbruik is moeilijk nauwkeurig en betrouwbaar te doen. Dit komt omdat, ondanks alle recente vooruitgang in AI, machines over het algemeen nog steeds moeite hebben om zinvol te reageren op menselijke communicatie. AI vindt het bijvoorbeeld meestal moeilijk om beledigende berichten op te pikken die sarcastisch kunnen zijn of vermomd met een aantal positieve zoekwoorden.
Een nieuwe studie heeft geavanceerde machine learning gebruikt om een nauwkeuriger beeld te krijgen van de omvang van intimidatie op Twitter. De analyse bevestigt wat veel mensen al zullen vermoeden: vrouwelijke en minderheidsjournalisten en politici worden geconfronteerd met een schokkende hoeveelheid misbruik op het platform.
Het onderzoek uitgevoerd door Amnesty International in samenwerking met het Canadese bedrijf ElementenAI , laat zien dat zwarte vrouwelijke politici en journalisten 84% meer kans hebben om genoemd te worden in beledigende of problematische tweets dan blanke vrouwen in hetzelfde beroep.
Het is gewoon gekmakend, zegt Julien Cornebise, onderzoeksdirecteur bij ElementAI in Londen, een bureau dat zich richt op humanitaire toepassingen van machine learning. Deze vrouwen maken een groot deel uit van hoe de samenleving werkt.
Onderzoekers van ElementAI gebruikten voor het eerst een machine-learningtool die vergelijkbaar is met degene die wordt gebruikt om spam te classificeren om beledigende tweets te identificeren. De onderzoekers gaven vrijwilligers vervolgens een mix van vooraf geclassificeerde en voorheen ongeziene tweets om te classificeren. De tweets die als beledigend werden geïdentificeerd, werden gebruikt om een diepgaand lerend netwerk te trainen. Het resultaat is een systeem dat misbruik met indrukwekkende nauwkeurigheid kan classificeren, aldus Cornebise.
Het project richtte zich op tweets die naar politici en journalisten werden gestuurd. De studie zag 6.500 vrijwilligers uit 150 landen helpen bij het classificeren van misbruik in 228.000 tweets die in 2017 naar 778 vrouwelijke politici en journalisten in het VK en de VS werden gestuurd.
De studie onderzocht tweets die naar vrouwelijke leden van het Britse parlement en het Amerikaanse congres en de senaat werden gestuurd, evenals naar vrouwelijke journalisten van publicaties als de Daily Mail, Gal Dem, the Guardian, Pink News en de Sun in het VK en Breitbart en de New York Times in de VS.
Het ontdekte dat in deze periode 1,1 miljoen beledigende tweets naar de 778 vrouwen werden gestuurd - dat is het equivalent van één elke 30 seconden. Het ontdekte ook dat 7,1% van alle tweets die naar vrouwen in deze rollen worden gestuurd, beledigend zijn. De onderzoekers achter de studie hebben ook een tool uitgebracht, genaamd Troll Patrol , om te testen of een tweet misbruik of intimidatie inhoudt.
Hoewel de deep-learning-aanpak een grote verbetering was ten opzichte van bestaande methoden voor het opsporen van misbruik, waarschuwen de onderzoekers dat machine learning of AI niet voldoende zullen zijn om trolling altijd te identificeren. Cornebise zegt dat de tool vaak net zo goed is als menselijke moderators, maar ook foutgevoelig is. Er zal in de nabije toekomst enig menselijk oordeel nodig zijn, zegt hij.
Twitter is alom bekritiseerd omdat het niet meer doet om zijn platform te controleren. Milena Marin, die bij Amnesty International aan het project werkte, zegt dat het bedrijf op zijn minst transparanter moet zijn over zijn politiemethoden.
Troll Patrol gaat niet over het controleren van Twitter of het dwingen om inhoud te verwijderen, zegt Marin. Maar ze waarschuwde dat Twitter transparant moet worden over hoe het machine learning precies gebruikt om misbruik te detecteren, en technische informatie moet publiceren over de algoritmen waarop het vertrouwt.
In reactie op het rapport wees Twitter-advocaat Vijaya Gadde op het probleem van het definiëren van misbruik. Ik wil opmerken dat het concept van 'problematische' inhoud met het oog op het classificeren van inhoud er een is die verdere discussie rechtvaardigt, zei Gadde in een verklaring. We werken er hard aan om wereldwijd afdwingbare regels op te stellen en zijn begonnen met het raadplegen van het publiek als onderdeel van het proces.