Hoe Facebook machine learning gebruikt om ISIS en Al-Qaeda-propaganda te bestrijden

Categorie: Siliconen vallei Geplaatst 12 november

Facebook beweert de afgelopen drie kwartalen proactief 99% van de terroristische inhoud op de site te hebben gevonden en verwijderd. Het heeft enig inzicht gegeven in zijn processen in een blogpost .

Enkele statistieken: Ten eerste is het belangrijk op te merken dat wanneer het terrorisme zegt, Facebook alleen verwijst naar ISIS en Al-Qaeda. Gemiddeld beweren de bedrijven dat het terroristische inhoud nu minder dan twee minuten nadat het is gepost verwijdert, vergeleken met het gemiddelde van 14 uur eerder dit jaar. Facebook ondernam actie op 9,4 miljoen stukjes inhoud in het tweede kwartaal van 2018, een cijfer dat daalde tot 3 miljoen in het derde kwartaal van 2018, dankzij de inspanningen van het kwartaal ervoor.

Detectiesystemen: Facebook heeft een nieuwe machine-learningtool gelanceerd die beoordeelt of berichten ondersteuning bieden voor ISIS of Al-Qaeda. Het produceert een score die aangeeft hoe waarschijnlijk het is dat het hun beleid inzake terrorismebestrijding schendt, en degenen die hogere scores krijgen, worden doorgegeven aan de menselijke beoordelaars om te beoordelen. Voor de gevallen met de hoogste score worden berichten automatisch verwijderd. In de zeldzame gevallen dat werknemers de mogelijkheid van dreigende schade ontdekken, stelt Facebook de politie onmiddellijk op de hoogte.

Laat de bots vrij: Het is duidelijk dat Facebook het terrorisme hard wil aanpakken. En zoals altijd vertrouwt het bijna uitsluitend op algoritmen om dat te doen. Dat is logisch vanuit het oogpunt, omdat mensen nooit zoveel informatie zo snel kunnen scannen (en ze zijn duur). Maar het is nog een andere herinnering aan de rol van Facebook als rechter, jury en beul op de informatie die het ons laat zien.