Zo zoekt de AI van Facebook naar slechte dingen

Categorie: Kunstmatige intelligentie Geplaatst 29 november

De context: De overgrote meerderheid van de moderatie van Facebook wordt nu automatisch gedaan door de machine-learningsystemen van het bedrijf, waardoor de hoeveelheid schrijnende inhoud die de moderators moeten beoordelen, wordt verminderd. In zijn laatste handhavingsrapport van gemeenschapsnormen , die eerder deze maand werd gepubliceerd, beweerde het bedrijf dat 98% van de video's en foto's van terroristen worden verwijderd voordat iemand de kans heeft om ze te zien, laat staan ​​ze te melden.

Dus, wat zien we hier? Het bedrijf heeft zijn machine learning-systemen getraind om objecten in video's te identificeren en te labelen - van alledaagse, zoals vazen ​​of mensen - tot gevaarlijke objecten, zoals geweren of messen. De AI van Facebook gebruikt twee hoofdbenaderingen om naar gevaarlijke inhoud te zoeken. Een daarvan is het gebruik van neurale netwerken die op zoek zijn naar kenmerken en gedragingen van bekende objecten en ze labelen met verschillende percentages van vertrouwen (zoals we kunnen zien in de video hierboven).

Opleiding aan de gang: Deze neurale netwerken zijn getraind op een combinatie van vooraf gelabelde video's van menselijke recensenten, rapporten van gebruikers en binnenkort ook van video's die zijn gemaakt door de Londense Metropolitan Police. De neurale netwerken kunnen deze informatie gebruiken om te raden wat de hele scène zou kunnen laten zien en of het gedrag of afbeeldingen bevat die moeten worden gemarkeerd. Tijdens een persconferentie deze week gaf het meer details over hoe zijn systemen werken.

Dan wat? Als het systeem besluit dat een videobestand problematische afbeeldingen of gedrag bevat, kan het dit automatisch verwijderen of naar een menselijke contentrecensent sturen. Als het de regels overtreedt, kan Facebook een hash maken - een unieke reeks cijfers - om het aan te duiden en dat door het hele systeem te verspreiden, zodat andere overeenkomende inhoud automatisch wordt verwijderd als iemand het opnieuw probeert te uploaden. Deze hashes kunnen worden gedeeld met andere socialemediabedrijven, zodat ze ook kopieën van het gewraakte bestand kunnen verwijderen.

Deze video's van [Metropolitan Police] zijn ongelooflijk nuttig voor ons. Terroristische gebeurtenissen zijn gelukkig zeldzaam, maar het betekent dat de hoeveelheid trainingsgegevens zo klein is, zei technisch manager Nicola Bortignon tijdens een telefoongesprek.

Een zwakke plek: Facebook worstelt nog steeds met het automatiseren van het begrip van de betekenis, nuance en context van taal. Daarom vertrouwt het bedrijf erop dat mensen de overgrote meerderheid van berichten over pesten en intimidatie melden die de regels overtreden: slechts 16% van deze berichten wordt geïdentificeerd door de geautomatiseerde systemen. Naarmate de technologie vordert, kunnen we verwachten dat dit cijfer zal toenemen. Het blijft echter een van de grootste uitdagingen op het gebied van AI om taal echt te begrijpen.

Het grotere plaatje: In maart doodde een terrorist 49 mensen in twee moskeeën in Christchurch, Nieuw-Zeeland. Hij streamde het bloedbad live op Facebook en de video's ervan circuleerden maandenlang op de site. Het was een wake-up call voor de sector. Als het nu weer gebeurt, is de kans groter dat het sneller wordt gepakt en verwijderd.