Instagram gebruikt AI om te voorkomen dat mensen beledigende opmerkingen plaatsen

Categorie: Kunstmatige intelligentie Geplaatst 09 juli

Het socialemediaplatform zal mogelijk aanstootgevende opmerkingen markeren voordat ze worden gepost en de poster vragen om opnieuw te overwegen.

De context: Online misbruik is altijd een ingewikkelde kwestie geweest vanwege de omvang en nuance. Wat telt als censuur waardig is een eeuwigdurende discussie : te veel filteren en inbreuk maken op zelfexpressie; filter te weinig en het creëert een vijandige omgeving. Voeg daarbij de complexiteit van verschillende talen, culturen en normen, en de uitdaging wordt echt onpraktisch.

Kunstmatige onwetendheid: Dat is de reden waarom sociale-mediaplatforms zoals Facebook zich tot kunstmatige intelligentie hebben gewend om hen te helpen het enorme aantal berichten en opmerkingen te doorzoeken. Maar taal is altijd bijzonder moeilijk geweest voor AI om te ontleden - eenvoudige dingen zoals dubbelzinnigheden, sarcasme of zelfs spelfouten kunnen een systeem doen struikelen over de betekenis ervan. Om dat te omzeilen, heeft Facebook duizenden inhoudsmoderators om op te voeren wanneer zijn algoritmen er niet in slagen om een ​​definitief oordeel te vellen. Uit onderzoek is echter gebleken dat die banen vaak bruut en afmattend zijn.

De oplossing van Instagram: Instagram, dat eigendom is van Facebook, probeert nu een nieuwe aanpak. In plaats van alleen te vertrouwen op zijn algoritmen om aanstootgevend materiaal te censureren, zal het ook gebruikmaken van de zelfcensuur van gebruikers. Terwijl een opmerking wordt geplaatst en het AI-model van het platform dit als schadelijk markeert, ziet de poster een pop-up met de vraag Weet u zeker dat u dit wilt plaatsen?

In vroege tests ontdekte Instagram dat de functie veel mensen aanmoedigde om hun opmerkingen in te trekken, volgens de gisteren aankondiging blogpost . Het is een slimme tactiek om te proberen een deel van de last van het modereren van menselijke inhoud te verlichten zonder te beperkend te zijn.

Trainingsdata: Dit is niet de eerste keer dat Instagram AI gebruikt om taal op te schonen. In juni 2017 was het ook gelanceerd een aanstootgevend commentaarfilter dat machine learning gebruikt om het meest voor de hand liggende misbruik te verbergen. Het platform is sindsdien zijn machine-learningmodel blijven verbeteren, waarbij waarschijnlijk gebruik is gemaakt van de miljoenen datapunten die door gebruikers zijn gegenereerd toen ze in het verleden opmerkingen meldden. De nieuwste functie vraagt ​​gebruikers ook om Instagram op de hoogte te stellen als het hun opmerking per ongeluk als beledigend heeft gemarkeerd, een andere feedbacklus die nuttigere trainingsgegevens zou kunnen genereren.

Meld u aan voor onze Webby-genomineerde AI-nieuwsbrief The Algorithm om meer van dit soort verhalen rechtstreeks in uw inbox te ontvangen. Het is gratis.