Nepafbeeldingen verspreiden zich snel op Facebook - en de AI-filters missen ze

Categorie: Siliconen vallei Geplaatst 23 februari

Er is een massamanipulatiewapen dat Facebook naar verluidt worstelt om te overwinnen: Photoshop.

Valse foto's: De Wall Street Journal verklaart dat gemanipuleerde afbeeldingen een cruciale en bedrieglijk eenvoudige techniek waren die door Russische propagandisten werd gebruikt om verzonnen informatie te verspreiden tijdens de verkiezingen van 2016.

Foto's zijn perfect: Mensen houden van afbeeldingen en delen ze vaker op sociale media dan berichten met alleen tekst. Ze bewerken om valse inhoud of misleidende berichten te injecteren, is een handige manier om propaganda snel te verspreiden.

Moeilijk te blokkeren: AI kan misschien objecten in afbeeldingen identificeren, maar begrijpen hoe en waarom afbeeldingen zijn gewijzigd, is moeilijker, niet in de laatste plaats omdat het een begrip van de context vereist. En hoe dan ook, Facebook is nerveus over het censureren van inhoud en automatiseert niet eens het proces van het verwijderen van tekstberichten, wat eenvoudiger zou moeten zijn.

Volgende: De logboek zegt dat het sociale netwerk werkt aan systemen die kunnen identificeren wanneer afbeeldingen buiten hun context worden gebruikt. Maar verwacht dat nepbeelden nog een tijdje op nieuwsfeeds zullen circuleren.