De massale schietpartij in Nieuw-Zeeland laat zien hoe kapot sociale media zijn

Categorie: Siliconen vallei Geplaatst 15 maart

Een schutter heeft de moord op tientallen onschuldigen in twee moskeeën in Christchurch, Nieuw-Zeeland, vrijdag live gestreamd - en de wereld kreeg een verschrikkelijke herinnering aan hoe gebrekkig het bestaande sociale-mediabeleid en de bestaande algoritmen zijn voor het controleren van gewelddadige en aanstootgevende inhoud.

In de dagen voor de schietpartij pochte de dader blijkbaar op zijn plannen en plaatste hij een online manifest. Vervolgens zond hij de gruwelijke daad live uit op Facebook. Bij de aanval vielen 49 doden en tientallen gewonden.

Livestream: Na intimidatie en nepnieuwsschandalen hebben socialemediabedrijven de afgelopen 18 maanden zwaar geïnvesteerd in inhoudsmoderators . Maar dit deed weinig om te voorkomen dat de video van de schietpartij zich verspreidde. Niet alleen was de livestream naar verluidt 20 minuten bezig, maar de resulterende video werd vervolgens opnieuw op YouTube geplaatst, waarbij sommige clips meer dan een uur bleven staan.

Volgens experts hebben verschillende factoren ertoe bijgedragen dat de beelden door de filters glippen.

Realtime uitdaging: Het is van vitaal belang om snel een video op te nemen, zodat deze zich niet op andere platforms verspreidt. Maar moderatie op sociale media is gewoon niet gericht op het in realtime vangen van inhoud. Het is onmogelijk om het proces effectief te automatiseren, en het identificeren van livestreams die handmatig moeten worden afgesloten, is als het vinden van een speld in de hooiberg van gegevens die voortdurend over het netwerk stromen, zegt Charles zeep , een professor aan de NYU School of Journalism. Hij voegt eraan toe dat Facebook van gebruikers zou kunnen eisen dat ze een reputatie opbouwen voordat ze inhoud live kunnen streamen, om de risico's te verkleinen.

Sla een mol: Moderators zijn in de beste tijden overweldigd. Video van de schietpartij die op YouTube wordt gehost, verspreidde zich waarschijnlijk zo snel dat de mensen die werden ingezet om te controleren op ongepaste inhoud, geen tijd hadden om alles te vangen. Deze werknemers hebben meestal een paar seconden om te bellen. Het proces kan gedeeltelijk worden geautomatiseerd, maar degenen die het beeldmateriaal opnieuw hebben gepost, hebben het blijkbaar geknipt en vervormingen geïntroduceerd om deze algoritmen te vermijden.

Algoritmisch falen: Social-mediabedrijven gebruiken ook algoritmische tweaks om verdachte inhoud de prioriteit te geven. Maar Mike Ananny , een universitair hoofddocent aan de Universiteit van Zuid-Californië, zegt dat deze algoritmen waarschijnlijk zijn veroorzaakt door de populariteit van de gewraakte video's.

Niet ons probleem: Deze factoren weerspiegelen het belangrijkste systeemprobleem: Facebook, YouTube en andere grote sociale platforms zien zichzelf in de eerste plaats niet als de scheidsrechters van inhoud. Onderzoek heeft uitgewezen dat extreemrechtse informatiebronnen proactiever kunnen worden gecontroleerd om te voorkomen dat gewelddadig of hatelijk materiaal zich verspreidt. Ze hebben een post hoc houding, zegt Ananny. Het is een diep cultureel ding.