211service.com
Verzameling van 13.500 Nastygrams kan oorlog tegen trollen bevorderen
Een visualisatie van berichten op Wikipedia-discussiepagina's in januari toont de incidentie van persoonlijke aanvallen, rood gemarkeerd.
Vrouwenhaat, racisme, godslastering - een verzameling van meer dan 13.500 online persoonlijke aanvallen heeft het allemaal.
De smerige grammen kwamen van de discussiepagina's van Wikipedia. De collectie, samen met meer dan 100.000 meer goedaardige berichten, is uitgekomen door onderzoekers van Alphabet en de Wikimedia Foundation, de non-profit achter Wikipedia. Ze zeggen dat de gegevens de inspanningen zullen stimuleren om software te trainen om online intimidatie te begrijpen en te controleren.
Ons doel is om te zien hoe we mensen kunnen helpen om de meest controversiële en belangrijke onderwerpen op een productieve manier over het hele internet te bespreken, zegt Lucas Dixon, hoofdonderzoeker bij legpuzzel , een groep binnen Alphabet die technologie bouwt ten dienste van zaken als vrijheid van meningsuiting en het bestrijden van corruptie (zie 'Als AI ons maar van onszelf kon redden').
Jigsaw- en Wikimedia-onderzoekers gebruikten een crowdsourcingservice om mensen door meer dan 115.000 berichten te laten kammen die op discussiepagina's van Wikipedia waren gepost, en controleerden of ze een persoonlijke aanval waren als gedefinieerd door de regels van de gemeenschap . De medewerkers hebben de gegevens al gebruikt om machine learning-algoritmen te trainen die wedijveren met crowdsourced-werkers bij het spotten van persoonlijke aanvallen. Toen ze de volledige verzameling van 63 miljoen discussieberichten van Wikipedia-editors doornamen, ontdekten ze dat slechts ongeveer één op de tien aanvallen had geleid tot actie door moderators.
Wikimedia Foundation gemaakt intimidatie verminderen onder Wikipedia-editors vorig jaar een prioriteit. Het beleid draagt bij aan de bestaande inspanningen om de stekelige en bureaucratische sfeer van de Wikipedia-gemeenschap te verzachten, wat nieuwe medewerkers ervan weerhoudt deel te nemen. Beide problemen kunnen helpen verklaren waarom het aantal redacteuren is afgenomen en moeite heeft gehad om de deelname te verbreden tot buiten een mannelijke, westerse demografie (zie The Decline of Wikipedia).
Jigsaw en Wikimedia Foundation zijn niet de eersten die online misbruik bestuderen, en evenmin zijn ze de eersten die software ontwikkelen die dit kan detecteren en bestrijden. Maar verzamelingen van opmerkingen die zijn gelabeld om intimiderende en niet-intimiderende berichten te markeren - die nodig zijn om machine learning-software te trainen - waren schaars, zegt Ellery Wulczyn , een data science-onderzoeker bij Wikimedia Foundation.
Hij schat dat de verzameling persoonlijke aanvallen en opmerkingen van Wikipedia tussen de 10 en 100 keer groter is dan de eerder beschikbare. Algoritmen voor machine learning hebben grote aantallen gelabelde voorbeelden nodig om te leren hoe gegevens nauwkeurig kunnen worden gefilterd.
Of algoritmen die zijn getraind om misbruik op te sporen, kunnen worden ingezet als effectieve moderators, is echter nog onduidelijk. Software begrijpt lang niet alle nuances van taal. Sommige mensen zijn misschien gemotiveerd om hun beledigende taal af te stemmen om detectie te ontwijken, zegt Wulczyn van Wikimedia. Als we interventies zouden bouwen waar mensen een vijandige relatie mee hebben, weten we niet wat er zou gebeuren, zegt hij.