211service.com
Dit is hoe socialemediabedrijven volgens de natuurkunde online haat moeten aanpakken
In de oorlogskamer van Facebook, waar het inhoud controleert AP
Het toezicht houden op online haatgroepen is als een eindeloos spel van mep: moderators verwijderen een neonazistische pagina op Facebook, alleen voor een ander die uren later verschijnt . Het is een benadering die niet werkt, maar een team van natuurkundigen heeft een studie van netwerken gebruikt om verschillende alternatieve strategieën voor te stellen die dat wel zouden kunnen.
De omvang van het probleem: Het team van de George Washington University onderzocht de dynamiek van haatgemeenschappen - groepen die individuen met vergelijkbare opvattingen organiseren - op sociale-mediaplatforms Facebook en VKontakte (het equivalent in Rusland) gedurende een paar maanden. Ze ontdekten dat deze netwerken opmerkelijk wereldwijd met elkaar verbonden zijn en op microniveau veerkrachtig zijn wanneer ze worden aangevallen, platforms oversteken en tussen landen, continenten en talen springen. Bewijs uit de praktijk van deze onderlinge verbondenheid is te zien aan de manier waarop blanke extremistische aanvallers in Noorwegen, Nieuw-Zeeland en de VS dit hebben gedaan. expliciet door elkaar geïnspireerd .
De huidige aanpak is kapot: Het wiskundige model van de onderzoekers voorspelt dat politietoezicht binnen een enkel platform, zoals Facebook, de verspreiding van haatzaaiende uitlatingen kan verergeren en het uiteindelijk onder de grond kan duwen, waar het nog moeilijker te bestuderen en te bestrijden is. Het team legde hun bevindingen uit in een paper in Natuur deze week.
Wat gedaan kan worden? De onderzoekers suggereren beleid dat door socialemediabedrijven kan worden geïmplementeerd:
— Verbied relatief kleine haatclusters in plaats van de grootste. Deze zijn gemakkelijker te lokaliseren en het elimineren ervan kan helpen voorkomen dat de grotere clusters zich in de eerste plaats vormen.
— Verban een klein aantal willekeurig gekozen gebruikers uit online haatclusters. Dit voorkomt dat hele groepen gebruikers worden uitgesloten, wat resulteert in verontwaardiging en beschuldigingen van spraakonderdrukking.
— Stimuleer clusters van anti-haatgebruikers om zich te vormen; ze kunnen haatclusters tegengaan.
— Aangezien veel haatgroepen online tegengestelde meningen hebben, zouden platformbeheerders een kunstmatige groep gebruikers moeten introduceren om verdeeldheid tussen deze groepen te zaaien. De onderzoekers ontdekten dat dit soort veldslagen grote haatclusters met tegengestelde opvattingen kunnen neerhalen.
Hoe waarschijnlijk is het? Sommige beleidsmaatregelen, vooral de laatste twee, zijn behoorlijk radicaal. Maar aangezien de huidige benaderingen zo diep ineffectief zijn, is het zeker de moeite waard voor socialemediabedrijven om ze uit te proberen. Aan jou, Mark Zuckerberg.
Meld u hier aan voor onze dagelijkse nieuwsbrief The Download om uw dosis van het laatste must-read nieuws uit de wereld van opkomende technologie te ontvangen.