De advertentie-algoritmen van Facebook sluiten vrouwen nog steeds uit van het zien van banen

mevrouw Tech | Pexels

Facebook houdt bepaalde vacatures voor vrouwen achter vanwege hun geslacht, volgens de laatste audit van zijn advertentieservice.

De controle , uitgevoerd door onafhankelijke onderzoekers van de University of Southern California (USC), onthult dat het advertentieweergavesysteem van Facebook verschillende vacatures voor vrouwen en mannen toont, ook al vereisen de banen dezelfde kwalificaties. Dit wordt beschouwd als discriminatie op grond van geslacht volgens de Amerikaanse wet inzake gelijke kansen op werk, die advertentietargeting op basis van beschermde kenmerken verbiedt. De bevindingen komen ondanks jarenlange belangenbehartiging en rechtszaken, en na beloften van Facebook om de manier waarop het advertenties weergeeft te herzien.

De onderzoekers registreerden zich als adverteerder op Facebook en kochten paren advertenties voor banen met identieke kwalificaties maar verschillende demografische gegevens uit de echte wereld. Ze adverteerden bijvoorbeeld voor twee banen als bezorger: één voor Domino’s (pizzabezorging) en één voor Instacart (boodschappenbezorging). Er rijden momenteel meer mannen dan vrouwen voor Domino’s, en vice versa voor Instacart.

Hoewel er geen doelgroep werd gespecificeerd op basis van demografische informatie, een functie Facebook uitgeschakeld voor advertenties voor huisvesting, krediet en vacatures in maart 2019, na het regelen van verschillende rechtszaken, toonden algoritmen de advertenties nog steeds aan statistisch verschillende demografische groepen. De Domino's-advertentie werd aan meer mannen dan vrouwen getoond, en de Instacart-advertentie werd aan meer vrouwen dan mannen getoond.

De onderzoekers vonden hetzelfde patroon met advertenties voor twee andere paren banen: software-ingenieurs voor Nvidia (scheve man) en Netflix (scheve vrouw), en verkoopmedewerkers voor auto's (scheve man) en sieraden (scheve vrouw).

De bevindingen suggereren dat de algoritmen van Facebook op de een of andere manier de huidige demografische verdeling van deze banen oppikken, die vaak om historische redenen verschillen. (De onderzoekers konden niet achterhalen waarom dat zo is, omdat Facebook niet wil zeggen hoe zijn advertentieweergavesysteem werkt.) Facebook reproduceert die scheeftrekkingen wanneer het advertenties weergeeft, ook al is er geen kwalificatierechtvaardiging, zegt Aleksandra Korolova, een assistent-professor bij USC, die samen met haar collega John Heidemann en hun PhD-adviseur Basileal Imana co-auteur was van de studie.

Verwant verhaal

Hoe Facebook verslaafd raakte aan het verspreiden van verkeerde informatie

De AI-algoritmen van het bedrijf gaven het een onverzadigbare gewoonte voor leugens en haatzaaien. Nu kan de man die ze heeft gebouwd het probleem niet oplossen.

De studie levert het laatste bewijs dat Facebook zijn problemen met advertentiediscriminatie niet heeft opgelost sinds ProPublica voor het eerst bracht de kwestie aan het licht in oktober 2016 . Destijds onthulde ProPublica dat het platform adverteerders van banen en huisvestingsmogelijkheden toestond bepaalde doelgroepen uit te sluiten die worden gekenmerkt door eigenschappen zoals geslacht en ras. Dergelijke groepen krijgen speciale bescherming volgens de Amerikaanse wetgeving, waardoor deze praktijk illegaal is. Het duurde twee en een half jaar en verschillende juridische schermutselingen voor Facebook om die functie eindelijk te verwijderen .

Maar een paar maanden later spande het Amerikaanse ministerie van Volkshuisvesting en Stedelijke Ontwikkeling (HUD) een nieuwe rechtszaak aan, waarin werd beweerd dat de algoritmen voor het weergeven van advertenties van Facebook nog steeds doelgroepen uitsloten voor huisvestingsadvertenties zonder dat de adverteerder de uitsluiting specificeerde. Een team van onafhankelijke onderzoekers, waaronder Korolova, geleid door Muhammad Ali en Piotr Sapieżyński van de Northeastern University, bevestigde die beschuldigingen een week later . Ze ontdekten bijvoorbeeld dat koopwoningen vaker aan blanke gebruikers werden getoond en huurwoningen vaker aan minderheidsgebruikers.

Korolova wilde de kwestie opnieuw bekijken met haar laatste audit omdat de bewijslast voor discriminatie op het werk hoger is dan voor discriminatie op het gebied van huisvesting. Hoewel een scheve weergave van advertenties op basis van beschermde kenmerken illegaal is in het geval van huisvesting, acht de Amerikaanse arbeidswetgeving dit gerechtvaardigd als de scheeftrekking te wijten is aan legitieme kwalificatieverschillen. De nieuwe methodiek controleert op deze factor.

De opzet van het experiment is erg strak, zegt Sapieżyński, die niet betrokken was bij het laatste onderzoek. Hoewel sommigen zouden kunnen beweren dat verkoopmedewerkers van auto's en sieraden inderdaad verschillende kwalificaties hebben, zijn de verschillen tussen het bezorgen van pizza's en het bezorgen van boodschappen verwaarloosbaar. Deze genderverschillen kunnen niet worden weggeredeneerd door genderverschillen in kwalificaties of een gebrek aan kwalificaties, voegt hij eraan toe. Facebook kan niet langer zeggen [dit is] wettelijk verdedigbaar.

De publicatie van deze audit komt te midden van een verhoogde controle van Facebook's AI-biaswerk. In maart publiceerde MIT Technology Review de resultaten van: een onderzoek van negen maanden in het Responsible AI-team van het bedrijf, dat ontdekte dat het team, dat voor het eerst werd gevormd in 2018, had verzuimd te werken aan zaken als algoritmische versterking van verkeerde informatie en polarisatie vanwege de kortzichtige focus op AI-bias. Het bedrijf een blogpost gepubliceerd kort daarna, waarbij we het belang van dat werk benadrukken en in het bijzonder zeggen dat Facebook mogelijke fouten probeert te begrijpen die van invloed kunnen zijn op ons advertentiesysteem, als onderdeel van ons lopende en bredere werk om algoritmische eerlijkheid in advertenties te bestuderen.

'We hebben zinvolle stappen ondernomen om discriminatie in advertenties aan te pakken en hebben teams vandaag gewerkt aan eerlijkheid van advertenties', zegt Facebook-woordvoerder Joe Osborn in een verklaring. 'Ons systeem houdt rekening met veel signalen om te proberen mensen advertenties weer te geven waarin ze het meest geïnteresseerd zijn, maar we begrijpen de zorgen die in het rapport naar voren worden gebracht... We blijven nauw samenwerken met de burgerrechtengemeenschap, regelgevers en academici over deze belangrijke zaken.

Ondanks deze beweringen zegt Korolova echter dat ze geen merkbare verandering heeft gevonden tussen de audit van 2019 en deze in de manier waarop de algoritmen voor het weergeven van advertenties van Facebook werken. Vanuit dat perspectief is het eigenlijk heel teleurstellend, want we hebben dit twee jaar geleden onder hun aandacht gebracht, zegt ze. Ze heeft ook aangeboden om met Facebook samen te werken om deze problemen aan te pakken, zegt ze. 'We hebben niets terug gehoord. Voor mij hebben ze in ieder geval geen contact gezocht.'

In eerdere interviews zei het bedrijf dat het niet in staat was om de details te bespreken van hoe het werkt om algoritmische discriminatie in zijn advertentieservice te verminderen vanwege lopende rechtszaken. Het advertentieteam zei dat de voortgang werd beperkt door technische uitdagingen.

Sapieżyński, die nu drie audits van het platform heeft uitgevoerd, zegt dat dit niets met het probleem te maken heeft. Facebook moet nog erkennen dat er een probleem is, zegt hij. Terwijl het team de technische problemen oplost, voegt hij eraan toe, is er ook een gemakkelijke tussenoplossing: het zou algoritmische advertentietargeting kunnen uitschakelen, specifiek voor advertenties op het gebied van huisvesting, werkgelegenheid en leningen zonder dat dit gevolgen heeft voor de rest van de service. Het is eigenlijk gewoon een kwestie van politieke wil, zegt hij.

Christo Wilson, een andere onderzoeker bij Northeastern die algoritmische vooringenomenheid bestudeert maar niet heeft deelgenomen aan het onderzoek van Korolova of Sapieżyński, is het ermee eens: hoe vaak moeten onderzoekers en journalisten deze problemen vinden voordat we accepteren dat het hele advertentietargetingsysteem failliet is?

zich verstoppen