211service.com
Onderzoek naar de duistere kant van het advertentietargetingsysteem van Google
Dat Google en andere bedrijven onze bewegingen op het web volgen om ons met advertenties te targeten, is algemeen bekend. Hoe die informatie precies wordt gebruikt, is dat niet, maar een onderzoekspaper dat vorige week werd gepresenteerd, suggereert dat sommige van de algoritmische beoordelingen die uit het advertentiesysteem van Google naar voren komen, veel mensen als onsmakelijk kunnen overkomen.
Onderzoekers van de Carnegie Mellon University en het International Computer Science Institute bouwden een tool genaamd AdFisher om de targeting van advertenties die door Google op websites van derden worden weergegeven, te onderzoeken. Ze ontdekten dat nep-webgebruikers die door Google als mannelijke werkzoekenden werden beschouwd, veel meer kans hadden dan gelijkwaardige vrouwelijke werkzoekenden om een paar advertenties voor goedbetaalde leidinggevende banen te zien wanneer ze later een nieuwswebsite bezochten.
AdFisher toonde ook aan dat a Google-transparantietool zogenaamde advertentie-instellingen, waarmee u de interesses die het bedrijf voor u heeft afgeleid, kunt bekijken en bewerken, weerspiegelt niet altijd mogelijk gevoelige informatie die wordt gebruikt om u te targeten. Het browsen op sites die gericht waren op mensen met een verslavingsprobleem, veroorzaakte bijvoorbeeld een golf van advertenties voor afkickprogramma's, maar er was geen verandering in de transparantiepagina van Google.
Wat die specifieke patronen precies veroorzaakte, is onduidelijk, omdat het advertentieweergavesysteem van Google erg complex is. Google gebruikt zijn gegevens om advertenties te targeten, maar advertentiekopers kunnen een aantal beslissingen nemen over demografische gegevens die van belang zijn en kunnen ook hun eigen gegevensbronnen over de online activiteit van mensen gebruiken om bepaalde soorten advertenties extra te targeten. De voorbeelden schenden evenmin specifieke privacyregels, hoewel het beleid van Google targeting op basis van gezondheidsproblemen verbiedt. Toch, zegt Anupam Datta , een universitair hoofddocent aan de Carnegie Mellon University die heeft geholpen bij de ontwikkeling van AdFisher, tonen ze de behoefte aan tools die ontdekken hoe online advertentiebedrijven onderscheid maken tussen mensen.
Ik denk dat onze bevindingen suggereren dat er delen van het advertentie-ecosysteem zijn waar vormen van discriminatie beginnen op te duiken en dat er een gebrek aan transparantie is, zegt Datta. Dit is zorgwekkend vanuit maatschappelijk oogpunt. Advertentiesystemen zoals Google beïnvloeden de informatie waaraan mensen worden blootgesteld en mogelijk zelfs de beslissingen die ze nemen, dus het is belangrijk om te begrijpen hoe die systemen gegevens over ons gebruiken, zegt hij.
Zelfs bedrijven die online advertentienetwerken runnen, hebben geen goed idee van welke gevolgtrekkingen hun systemen over mensen trekken en hoe die gevolgtrekkingen worden gebruikt, zegt Datta. Zijn groep is begonnen samen te werken met Microsoft om een versie van AdFisher te ontwikkelen voor gebruik binnen het bedrijf, om te zoeken naar mogelijk verontrustende patronen in de advertentietargeting op de Bing-zoekmachine. Een krant door Datta en twee collega's— Michael Tschantz , van het International Computer Science Institute, en Amit Datta , ook op Carnegie Mellon - werd gepresenteerd op de Symposium over privacyverbeterende technologieën afgelopen donderdag in Philadelphia.
Google reageerde niet officieel toen de onderzoekers eind vorig jaar contact opnamen met het bedrijf over hun bevindingen, zeggen ze. In juni merkte het team echter op dat Google een disclaimer had toegevoegd aan de pagina met advertentie-instellingen. De getoonde interessecategorieën zouden nu slechts enkele van de Google-advertenties die u ziet, controleren en niet die waarbij derden gebruik hebben gemaakt van hun eigen gegevens. Datta zegt dat dit het nut van de transparantietool van Google aanzienlijk beperkt, die waarschijnlijk zou kunnen worden gemaakt om dergelijke informatie te onthullen als het bedrijf daarvoor kiest. Ze geven deze advertenties weer en als ze dat willen, kunnen ze deze interesses weerspiegelen, zegt hij.
Adverteerders kunnen ervoor kiezen om de doelgroep te targeten die ze willen bereiken, en we hebben beleid dat richting geeft aan het type op interesses gebaseerde advertenties dat is toegestaan, zei Andrea Faville, een woordvoerster van Google, in een e-mail. We bieden gebruikers transparantie met 'Waarom deze advertentie'-meldingen en Advertentie-instellingen, evenals de mogelijkheid om zich af te melden voor op interesses gebaseerde advertenties. Google bekijkt de methodologie van het onderzoek om de bevindingen te begrijpen.
De AdFisher-tool werkt door honderden of duizenden geautomatiseerde webbrowsers op zorgvuldig gekozen paden over het web te sturen, op zo'n manier dat een netwerk voor advertentietargeting bepaalde interesses of activiteiten zal afleiden. De software registreert vervolgens welke advertenties worden weergegeven wanneer elke geautomatiseerde browser een nieuwswebsite bezoekt die gebruikmaakt van het advertentienetwerk van Google, evenals eventuele wijzigingen aan de pagina met advertentie-instellingen. In sommige experimenten wordt die pagina bewerkt om te zoeken naar verschillen tussen de manieren waarop advertenties zijn getarget op bijvoorbeeld mannen en vrouwen. AdFisher markeert automatisch alle statistisch significante verschillen in de manier waarop advertenties worden getarget met behulp van de specifieke interessecategorieën of demografische gegevens die het onderzoekt.
Roxana Geambasu , een assistent-professor aan de Columbia University, zegt dat de manier waarop AdFisher statistisch patronen kan extraheren uit de complexiteit van gerichte advertenties, van grote waarde is. Een tool genaamd XRay , die haar eigen onderzoeksgroep vorig jaar uitbracht, kan het verband tussen advertenties die aan Gmail-gebruikers worden getoond en zoekwoorden in hun berichten reverse-engineeren. Advertenties voor autoleningen met een lage vereiste kunnen bijvoorbeeld worden getarget op mensen die woorden gebruiken die verband houden met financiële problemen.
Geambasu zegt echter dat de resultaten van zowel XRay als AdFisher nog steeds slechts suggestief zijn. Je kunt geen grote conclusies trekken, omdat we dit niet veel hebben bestudeerd en deze voorbeelden zeldzame uitzonderingen kunnen zijn, zegt ze. Wat we nu nodig hebben, is infrastructuur en tools om deze systemen op veel grotere schaal te bestuderen. In staat zijn om te kijken hoe algoritmen mensen targeten en volgen om dingen te doen zoals advertenties weergeven of de prijs van verzekeringen en andere producten aanpassen, is waarschijnlijk van vitaal belang als burgerrechtengroepen en regelgevers gelijke tred willen houden met de ontwikkelingen in hoe bedrijven gegevens gebruiken, zegt ze .
Een rapport van het Witte Huis over de impact van big data vorig jaar kwam tot vergelijkbare conclusies. Data-analyse heeft het potentieel om langdurige bescherming van burgerrechten te overschaduwen in de manier waarop persoonlijke informatie wordt gebruikt in huisvesting, krediet, werkgelegenheid, gezondheid, onderwijs en de markt, zei het.