De video van Logan Paul is een waarschuwend verhaal voor platforms die hopen dat AI hen zal redden van aanstootgevende inhoud

Categorie: Technisch beleid Geplaatst jan 03

YouTube-ster Logan Paul (als je niet bekend bent, hij heeft 15 miljoen abonnees) uploadde afgelopen weekend een video op het platform waarin hij grappen leek te maken voor een lichaam dat aan een boom hing tijdens een bezoek aan een bos in Japan waar bekend is dat mensen zelfmoord plegen. De beelden werden meer dan zes miljoen keer bekeken voordat Paul het verwijderde.

Waarom het uitmaakt: De video van Paul was niet gepakt door een van de YouTube-software of menselijke filters, waardoor het een uitstekend voorbeeld is van inhoud die nooit op grote schaal had mogen worden verspreid, maar die niettemin de geavanceerde kunstmatige-intelligentiesystemen ontging. Wat obsceen is, is dat je het lichaam van een zelfmoordslachtoffer, Tarleton Gillespie, hoofdonderzoeker bij Microsoft Research, hebt getoond en respectloos hebt behandeld. vertelde Buzzfeed . Dit is het soort contextuele en ethische subtiliteit dat geautomatiseerde tools waarschijnlijk nooit zullen kunnen benaderen.

Vooruit gaan: Het incident laat zien dat ondanks inspanningen van Facebook en YouTube om AI te gebruiken om aanstootgevende inhoud te bestrijden, het probleem van de inhoudsmoderatie niet zal worden opgelost door een beetje software toe te passen.