De gelekte moderatieregels van Facebook laten zien waarom Big Tech geen haatzaaiende uitspraken kan doen

Categorie: Siliconen vallei Geplaatst 28 december

De maatschappij vroeg Big Tech om online haatspraak te stoppen. We kregen precies waar we om vroegen.

Het nieuws: Max Fisher van de New York Times gepubliceerde uittreksels uit meer dan 1.400 pagina's met interne Facebook-documenten, met regels voor het wereldwijde leger van het bedrijf van meer dan 7.500 inhoudsmoderators. (Moederbord had eerder gepubliceerd van hetzelfde materiaal.)

Wat zit erin? Een uitgestrekte mengelmoes van richtlijnen, beperkingen en classificaties. Alleen al de regels over haatzaaien lopen op tot 200 met jargon gevulde, duizelingwekkende pagina's. Ze bevatten details over hoe emoji moeten worden geïnterpreteerd (het gebruik van ? kan blijkbaar zowel pesten als prijzen zijn) en lijsten met mensen of politieke partijen die moeten worden gecontroleerd op mogelijke haatzaaiende uitlatingen. Uit de documenten blijkt dat Facebook een veel krachtigere arbiter van wereldwijde spraak is dan het heeft toegegeven, schrijft Fisher.

Het probleem: De richtlijnen zijn niet alleen byzantijns; sommige zijn verouderd of bevatten fouten. Ze variëren ook sterk, afhankelijk van de druk waarop het bedrijf staat: Facebook blokkeert tientallen extreemrechtse groepen in Duitsland, waar de autoriteiten het sociale netwerk controleren, maar slechts één in buurland Oostenrijk. Van moderators, van wie de meesten voor outsourcingbedrijven werken en minimale training krijgen, wordt verwacht dat ze binnen enkele seconden complexe beslissingen nemen, duizend berichten per dag verwerken , met regels die regelmatig veranderen als reactie op politieke gebeurtenissen, en vaak met behulp van Google Translate.

De afhaalmaaltijd: Dit verwijdert elke blijvende pretentie dat Facebook slechts een neutraal publicatieplatform is. Politieke oordelen doordringen elke pagina van deze richtlijnen.

Maar wat had je verwacht? Zoals Alex Stamos, de voormalige chief security officer van Facebook, me in oktober vertelde, hebben we geëist dat technologieplatforms haatzaaien door de politie, en dat geeft hen alleen maar meer macht. Dat is een gevaarlijk pad, waarschuwde Stamos. Over vijf of tien jaar kunnen er systemen voor machinaal leren zijn die zowel menselijke talen als mensen begrijpen. We kunnen eindigen met machinesnelheid, realtime moderatie van alles wat we online zeggen.