211service.com
Het advertentieweergave-algoritme van Facebook discrimineert op geslacht en ras
Mevr. Tech/ Logo: facebook
Algoritmen zijn bevooroordeeld - en die van Facebook is geen uitzondering.
Vorige week werd de techgigant aangeklaagd door het Amerikaanse ministerie van Volkshuisvesting en Stedelijke Ontwikkeling vanwege de manier waarop adverteerders hun advertenties doelbewust konden targeten op ras, geslacht en religie - allemaal beschermde klassen volgens de Amerikaanse wet. Het bedrijf kondigde aan dit niet meer toe te staan.
Maar nieuw bewijs laat zien dat het algoritme van Facebook, dat automatisch bepaalt aan wie een advertentie wordt getoond, toch dezelfde discriminatie uitvoert door advertenties aan meer dan twee miljard gebruikers te tonen op basis van hun demografische informatie.
Een team onder leiding van Muhammad Ali en Piotr Sapiezynski van de Northeastern University plaatste een reeks verder identieke advertenties met kleine variaties in het beschikbare budget, de kop, de tekst of de afbeelding. Ze ontdekten dat die subtiele aanpassingen een aanzienlijke impact hadden op het publiek dat door elke advertentie werd bereikt, met name wanneer de advertenties voor banen of onroerend goed waren. Vacatures voor kleuteronderwijzers en secretaresses werden bijvoorbeeld aan een groter deel van de vrouwen getoond, terwijl vacatures voor conciërges en taxichauffeurs aan een groter aandeel minderheden werden getoond. Advertenties over koopwoningen werden ook aan meer blanke gebruikers getoond, terwijl advertenties voor huurwoningen aan meer minderheden werden getoond.
We hebben belangrijke wijzigingen aangebracht in onze tools voor advertentietargeting en weten dat dit slechts een eerste stap is, een woordvoerder van Facebook zei in een verklaring naar aanleiding van de bevindingen. We hebben ons advertentieweergavesysteem bekeken en hebben brancheleiders, academici en burgerrechtenexperts over dit onderwerp betrokken, en we onderzoeken meer veranderingen.
In sommige opzichten zou dit niet moeten verbazen: vooringenomenheid in aanbevelingsalgoritmen is al vele jaren een bekend probleem. Zo publiceerde Latanya Sweeney, hoogleraar overheid en technologie aan Harvard, in 2013 een paper waarin de impliciete rassendiscriminatie van het advertentieweergavealgoritme van Google werd aangetoond. Het probleem gaat terug naar hoe deze algoritmen in de grond werken. Ze zijn allemaal gebaseerd op machine learning, dat patronen vindt in enorme hoeveelheden gegevens en deze opnieuw toepast om beslissingen te nemen. Er zijn veel manieren waarop vooringenomenheid tijdens dit proces kan binnensijpelen, maar de twee meest voor de hand liggende in het geval van Facebook hebben betrekking op problemen tijdens het opstellen van problemen en het verzamelen van gegevens.
Bias treedt op tijdens het opstellen van een probleem wanneer het doel van een machine-learningmodel niet goed is afgestemd op de noodzaak om discriminatie te voorkomen. Met de advertentietool van Facebook kunnen adverteerders kiezen uit drie optimalisatiedoelstellingen: het aantal weergaven dat een advertentie krijgt, het aantal klikken en de hoeveelheid betrokkenheid die het ontvangt, en de hoeveelheid verkopen die het genereert. Maar die bedrijfsdoelen hebben niets te maken met bijvoorbeeld het handhaven van gelijke toegang tot huisvesting. Als het algoritme zou ontdekken dat het meer betrokkenheid zou kunnen opleveren door meer huizen van blanke gebruikers te laten zien, zou het uiteindelijk zwarte gebruikers discrimineren.
Bias treedt op tijdens het verzamelen van gegevens wanneer de trainingsgegevens bestaande vooroordelen weerspiegelen. De advertentietool van Facebook baseert zijn optimalisatiebeslissingen op de historische voorkeuren die mensen hebben aangetoond. Als in het verleden meer minderheden betrokken waren bij advertenties voor verhuur, zal het machine learning-model dat patroon identificeren en het voor altijd opnieuw toepassen. Nogmaals, het zal blindelings de weg van discriminatie op het gebied van werkgelegenheid en huisvesting inslaan - zonder dat dit expliciet wordt gevraagd.
Hoewel deze gedragingen in machine learning al geruime tijd worden bestudeerd, biedt de nieuwe studie een meer directe kijk op de enorme omvang van de impact ervan op de toegang van mensen tot huisvesting en werkgelegenheid. Deze bevindingen zijn explosief! Christian Sandvig, de directeur van het Centrum voor Ethiek, Samenleving en Informatica aan de Universiteit van Michigan, vertelde De econoom. De krant vertelt ons dat [...] big data, op deze manier gebruikt, ons nooit een betere wereld kan geven. In feite is het waarschijnlijk dat deze systemen de wereld erger maken door de problemen in de wereld die de zaken onrechtvaardig maken te versnellen.
Het goede nieuws is dat er misschien manieren zijn om dit probleem aan te pakken, maar het zal niet gemakkelijk zijn. Veel AI-onderzoekers streven nu naar technische oplossingen voor de vooringenomenheid van machine learning die eerlijkere modellen van online adverteren zouden kunnen creëren. Een recent papier van Yale University en het Indian Institute of Technology, suggereert bijvoorbeeld dat het mogelijk zou kunnen zijn om algoritmen te beperken om discriminerend gedrag te minimaliseren, zij het tegen geringe kosten voor de advertentie-inkomsten. Maar beleidsmakers zullen een grotere rol moeten spelen als platforms in dergelijke oplossingen willen gaan investeren, vooral als dit van invloed kan zijn op hun bedrijfsresultaten.
Dit verscheen oorspronkelijk in onze AI-nieuwsbrief The Algorithm. Meld je hier gratis aan om het direct in je inbox te krijgen.