211service.com
Racisme vergiftigt online advertentieweergave, zegt Harvard-hoogleraar
Ben je ooit gearresteerd? Stel je voor dat de vraag niet verschijnt in de eenzaamheid van je gedachten terwijl je dit artikel leest, maar expliciet verschijnt wanneer iemand je naam opvraagt in een zoekmachine.
Screenshot van een Google-advertentie.
Zo begint Latanya Sweeney van de Harvard University in een boeiende paper die stelt dat rassendiscriminatie de online advertentieweergave plaagt.
Veel mensen zullen ervaring hebben met het Googlen van vrienden, collega's en familieleden om meer te weten te komen over hun online aanwezigheid - de websites waarop ze verschijnen, hun foto's, hobby's enzovoort.
Sweeney's interesse gaat uit naar de advertenties die naast deze resultaten verschijnen. Toen ze haar naam in Google invoerde, verscheen er een advertentie met de tekst:
Latanya Sweeney, gearresteerd? 1) Voer naam en staat in 2) Toegang tot volledige achtergrond. Controleert direct. www.instantcheckmate.com
Dit is suggestieve bewoording. Het suggereert dat Latanya Sweeney een strafblad heeft waarvan de details toegankelijk zijn door op de advertentie te klikken. Maar nadat ze op de link had geklikt en het benodigde abonnementsgeld had betaald, zegt Sweeney dat ze geen aanhoudingsbevel heeft gevonden.
Wat hier interessant aan is, is dat de voornaam van Sweeney ook suggestief is - dat ze zwart is. De vraag die Sweeney stelt, is of een vergelijkbare zoekopdracht met een naam die doet denken aan een blank raciaal profiel, ook advertenties oplevert waarin arrestatiegegevens worden vermeld.
Het antwoord is een krachtige wake-up call. Sweeney zegt dat ze bewijs heeft dat zwarte identificerende namen tot 25 procent meer kans hebben om te worden weergegeven met een arrestatie-gerelateerde advertentie. Er is sprake van discriminatie bij het weergeven van deze advertenties, concludeert ze.
Sweeney verzamelde dit bewijs door meer dan 2000 namen te verzamelen die op ras suggereerden. Voornamen zoals Trevon, Lakisha en Darnell suggereren bijvoorbeeld dat de eigenaar zwart is, terwijl namen als Laurie, Brendan en Katie suggereren dat de eigenaar wit is.
Vervolgens voerde ze deze plus-achternamen in op Google.com en Reuters.com en bekeek de advertenties die ze teruggaven. De meeste namen genereerden advertenties voor openbare registers. Het bleek echter dat zwart-identificerende namen veel waarschijnlijker waren dan wit-identificerende namen om advertenties te genereren die het woord arrestatie bevatten (60 procent versus 48 procent). Alles kwam van www.instantcheckmate.com .
Ze zegt dat de resultaten statistisch significant zijn met een kans van minder dan 0,1 procent dat ze door toeval zijn gegenereerd.
Op Reuters.com hadden zwarte identificerende namen 25 procent meer kans om te worden weergegeven met een arrestatiegerelateerde advertentie.
Dat is een buitengewoon resultaat en een die meer vragen oproept dan beantwoordt. De grootste puzzel is natuurlijk wat ervoor zorgt dat de advertenties in dit patroon worden weergegeven. Hier verduistert het mysterie van de Adsense-service van Google de zaken aanzienlijk.
Sweeney zegt dat er in wezen drie mogelijkheden zijn. Een is dat www.instantcheckmate.com heeft de arrestatievermeldingsadvertenties opgezet om te worden weergegeven met zwarte identificerende namen. Een andere is dat Google op de een of andere manier zijn advertentieweergavemechanisme op deze manier heeft beïnvloed.
Een meer verraderlijke verklaring is dat de samenleving als geheel de schuldige is. Als de Adsense-service van Google ontdekt welke advertentiecombinaties effectiever zijn, zou het eerst de aan arrestatie gerelateerde advertenties willekeurig aan alle namen tonen. Maar dit zou veranderen als het zou ontdekken dat doorkliks waarschijnlijker zijn wanneer deze advertenties worden weergegeven tegen een zwart-identificerende naam. Met andere woorden, de resultaten weerspiegelen slechts het discriminerende patroon van klikken van gewone mensen.
Natuurlijk kunnen we niet weten zonder meer inzicht in de zwarte doos die Google Adsense is.
Het is duidelijk dat Sweeney hier een serieus probleem heeft ontdekt, gezien de impact die online aanwezigheid kan hebben op de arbeidsvooruitzichten van een persoon.
Wat de oorzaak ook is, volgens Sweeney kan technologie een oplossing bieden. Als de algoritmen achter Adsense kunnen redeneren over het maximaliseren van inkomsten, zegt ze dat ze zouden moeten kunnen redeneren over de juridische en sociale gevolgen van bepaalde patronen van doorklikken.
Dat is een interessant idee en een dat Google, www.instantcheckmate.com en de samenleving in het algemeen meer in detail moeten bekijken.
Referentie: http://arxiv.org/abs/1301.6822 Discriminatie bij online advertentieweergave
Update 4 februari 2013 14:34 EST
In reactie op deze blogpost stuurt een Google-woordvoerder het volgende commentaar:
AdWords voert geen raciale profilering uit. We hebben ook een anti- en geweldbeleid waarin staat dat we geen advertenties toestaan die pleiten tegen een organisatie, persoon of groep mensen. Het is aan individuele adverteerders om te beslissen welke zoekwoorden ze willen kiezen om hun advertenties te activeren.
Update 7 februari
Instantcheckmate.com stuurt de volgende verklaring:
In feite wil Instant Checkmate ondubbelzinnig stellen dat het zich nooit heeft beziggehouden met raciale profilering in Google AdWords.
We hebben absoluut geen technologie om zelfs maar een naam met een race te verbinden en hebben nooit een poging gedaan om dit te doen. Het idee zelf is in strijd met de diepgewortelde principes en waarden van ons bedrijf.