Facebook zegt dat het zal zoeken naar raciale vooroordelen in zijn algoritmen

Categorie: Kunstmatige intelligentie Geplaatst 22 juli

Het nieuws: Facebook zegt dat het bezig is met opzetten nieuwe interne teams op zoek naar raciale vooroordelen in de algoritmen die zijn belangrijkste sociale netwerk en Instagram aansturen, volgens de Wall Street Journal. In het bijzonder zullen de onderzoeken de nadelige effecten van machine learning aanpakken, wat kan: coderen voor impliciet racisme in trainingsgegevens - over zwarte, Spaanse en andere minderheidsgroepen.

Waarom het uitmaakt: In de afgelopen jaren hebben steeds meer onderzoekers en activisten het probleem van de vooringenomenheid in AI en de onevenredige impact die het heeft op minderheden . Facebook, dat machine learning gebruikt om de dagelijkse ervaring van zijn 2,5 miljard gebruikers te beheren, is veel te laat voor een dergelijke interne beoordeling. Er is al bewijs dat de advertentieweergave-algoritmen van Facebook discrimineren op ras en adverteerders toestaan ​​om bijvoorbeeld specifieke raciale groepen te stoppen met het zien van hun advertenties.

Onder druk: Facebook heeft een geschiedenis van het ontwijken van beschuldigingen van vooringenomenheid in zijn systemen. Het heeft jaren van slechte pers en druk van burgerrechtengroepen gekost om dit punt te bereiken. Facebook heeft deze teams opgericht na een reclameboycot van een maand, georganiseerd door burgerrechtengroepen - waaronder de Anti-Defamation League, Color of Change en de NAACP - die grote geldschieters zoals Coca-Cola, Disney, McDonald's en Starbucks ertoe bracht om hun campagnes opschorten.

Geen gemakkelijke oplossing: De verhuizing is welkom. Maar het starten van een onderzoek is verre van het daadwerkelijk oplossen van het probleem van raciale vooroordelen, vooral als niemand echt weet hoe het moet worden opgelost. In de meeste gevallen, bias bestaat in de trainingsgegevens en er zijn geen goede overeengekomen manieren om het te verwijderen. En het aanpassen van die gegevens - een vorm van algoritmische bevestigende actie -is controversieel. Vooringenomenheid op het gebied van machine learning is ook slechts een van de problemen van sociale media rond ras. Als Facebook naar zijn algoritmen gaat kijken, zou het deel moeten uitmaken van een bredere revisie die ook worstelt met beleid dat platforms biedt aan racistische politici, blanke supremacistische groepen en Holocaust-ontkenners.

'We zullen nauw blijven samenwerken met het Responsible AI-team van Facebook om ervoor te zorgen dat we mogelijke vooroordelen op onze respectieve platforms bekijken', zegt Stephanie Otway, een woordvoerder van Instagram. 'Het is nog vroeg en we zijn van plan om de komende maanden meer details over dit werk te delen.'