Het algoritme van YouTube lijkt mensen naar alt-right video's te leiden

Categorie: Mensen en technologie Geplaatst 29 januari

een nieuwe studie suggereert dat wat we al jaren vermoeden klopt: YouTube is een pijplijn voor extremisme en haat.

Hoe weten we dat? Meer dan 330.000 video's op bijna 350 YouTube-kanalen werden geanalyseerd en handmatig geclassificeerd volgens een systeem ontworpen door de Anti-Defamation League. Ze werden bestempeld als media (of wat we beschouwen als feitelijk nieuws), alt-lite intellectueel dark web of alt-right.

De groepen: Alt-right is wat traditioneel wordt geassocieerd met blanke suprematie, aandringen op een blanke etnostaat. Degenen die zich aansluiten bij het intellectuele dark web rechtvaardigen blanke suprematie op basis van eugenetica en raswetenschap. Leden van de alt-lite beweren de blanke suprematie niet te steunen, hoewel ze geloven in complottheorieën over vervanging door minderheidsgroepen.

Poort: De auteurs van het onderzoek veronderstelden dat het alt-lite en intellectuele dark web vaak dienen als een toegangspoort tot meer extreme, extreemrechtse ideologieën. Dus testten ze dat door de auteurs te traceren van 72 miljoen reacties op ongeveer twee miljoen video's tussen mei en juli vorig jaar. De resultaten waren zorgwekkend. Meer dan 26% van de mensen die op alt-lite-video's reageerden, had de neiging over te gaan naar alt-right-video's en daar vervolgens commentaar te geven.

Schuld spel: Het is vrij eenvoudig om alt-lite en intellectuele dark web-inhoud te vinden met een simpele zoekopdracht, maar alt-right-video's zijn meestal moeilijker te vinden voor nieuwe gebruikers. Toch ontdekten de onderzoekers dat het algoritme van YouTube gebruikers die naar specifieke zoekwoorden zochten vaak naar steeds gewelddadige, extremere inhoud leidde.

En het wordt erger: Het team, van het Zwitserse Federale Instituut voor Technologie Lausanne, vond ook bewijs dat de overlap tussen alt-righters en anderen die zich bezighouden met intellectueel dark web en alt-lite materiaal groeit. De auteurs schatten dat ongeveer 60.000 mensen die commentaar gaven op alt-lite of intellectuele dark web-inhoud in een periode van ongeveer 18 maanden werden blootgesteld aan alt-right-video's. Het werk werd deze week gepresenteerd op de 2020 Conference on Fairness, Accountability, and Transparency in Barcelona.

We weten nog steeds niet veel over radicalisering op YouTube: Om te beginnen weten we niet precies waarom mensen van alt-lite materiaal naar extreemrechts gaan. Dat komt gedeeltelijk omdat YouTube de toegang tot aanbevelingsgegevens beperkt. Het is ook mogelijk dat sommige mensen naar YouTube komen die al geradicaliseerd zijn door een externe, niet-YouTube-bron. Maar dit onderzoek suggereert dat de aanbevelingsalgoritmen van YouTube een belangrijke rol kunnen spelen.

De achtergrond: YouTube worstelt al lang met het evenwicht tussen het handhaven van de vrijheid van meningsuiting en het aanpakken van haatzaaiende uitlatingen. Het bedrijf heeft een aantal eerste stappen gezet door een aantal kanalen te verbieden, met name Infowars van Alex Jones. Maar critici beweren dat YouTube niet genoeg heeft gedaan.

In een verklaring zei YouTube dat het deze problemen oplost: in de afgelopen jaren ... We hebben onze zoek- en ontdekkingsalgoritmen gewijzigd om ervoor te zorgen dat meer gezaghebbende inhoud naar voren komt en prominent wordt gelabeld in zoekresultaten en aanbevelingen en zijn begonnen met het verminderen van aanbevelingen voor grensoverschrijdende inhoud en video's die gebruikers op schadelijke manieren verkeerd kunnen informeren.'

Een woordvoerder voegde eraan toe dat YouTube de methodologie betwist en dat het geen rekening houdt met recentere updates van zijn beleid of aanbevelingen voor haatzaaien. 'We zijn het sterk oneens met de methodologie, de gegevens en vooral de conclusies die in dit nieuwe onderzoek zijn getrokken', aldus de woordvoerder.

Opmerking van de redactie: dit verhaal is bewerkt om de opmerking en het geschil van YouTube op te nemen.