211service.com
Bias bestaat al in de resultaten van zoekmachines, en het zal alleen maar erger worden
De manier waarop zoekmachines werken is verre van onbevooroordeeld, stelt een nieuw boek. 26 februari 2018
NYU Boekenpers
Het internet lijkt misschien een gelijk speelveld, maar dat is het niet. Safiya Umoja Noble kwam op een dag oog in oog met dat feit toen ze de zoekmachine van Google gebruikte om onderwerpen te zoeken die haar nichtjes misschien interessant zouden vinden. Ze ging de term zwarte meisjes in en kwam terug met pagina's die werden gedomineerd door pornografie.
Noble, een communicatieprofessor van het USC Annenberg, was geschokt maar niet verrast. Jarenlang betoogt ze dat de waarden van het web zijn bouwers weerspiegelen - meestal blanke, westerse mannen - en niet minderheden en vrouwen vertegenwoordigen. Haar nieuwste boek, Algoritmen van onderdrukking , detailonderzoek dat ze begon na die noodlottige Google-zoekopdracht, en het onderzoekt de verborgen structuren die bepalen hoe we informatie via internet krijgen.
Het boek, dat deze maand uitkomt, stelt dat de algoritmen van zoekmachines niet zo neutraal zijn als Google je zou willen laten denken. Algoritmen promoten sommige resultaten boven andere, en zelfs een schijnbaar neutraal stukje code kan de vooroordelen van de samenleving weerspiegelen. Bovendien kunnen zoekopdrachten, zonder enig inzicht in hoe de algoritmen werken of wat de bredere context is, de discussie over een onderwerp als zwarte meisjes op oneerlijke wijze vormgeven.
Noble sprak met MIT Technology Review over de problemen die inherent zijn aan het huidige systeem, hoe Google het beter zou kunnen doen en hoe kunstmatige intelligentie de zaken erger zou kunnen maken.
MET DANK AAN SAFIYA UMOJA NOBLE
Wat doen mensen verkeerd aan hoe zoekmachines werken?
Als we op zoek zijn naar de dichtstbijzijnde Starbucks, een specifieke offerte of iets heel smal dat gemakkelijk te begrijpen is, werkt het prima. Maar wanneer we ons gaan verdiepen in meer gecompliceerde concepten rond identiteit, rond kennis, is dit waar zoekmachines ons beginnen in de steek te laten. Dit zou niet zo'n probleem zijn, behalve dat het publiek echt op zoekmachines vertrouwt om hen te geven wat zij denken dat de waarheid is, of iets dat is doorgelicht, of iets dat geloofwaardig is. Dit is waar we, denk ik, het grootste misverstand hebben bij het publiek over wat zoekmachines zijn.
Om vooringenomenheid aan te pakken, onderdrukt Google normaal gesproken bepaalde resultaten. Is er een betere aanpak?
We zouden kunnen nadenken over het terugtrekken van zo'n ambitieus project om alle kennis van de wereld te organiseren, of we zouden kunnen herformuleren en zeggen: dit is een technologie die onvolmaakt is. Het is manipuleerbaar. We gaan je laten zien hoe het wordt gemanipuleerd. We gaan dat soort afmetingen van ons product transparanter maken, zodat u de zeer subjectieve aard van de uitvoer kent. In plaats daarvan is de positie voor veel bedrijven - niet alleen Google - dat [ze] iets bieden waarop u kunt vertrouwen en waarop u kunt rekenen, en dit is waar het behoorlijk moeilijk wordt.
Hoe kan machine learning een deel van het racisme en seksisme waar je over schrijft in stand houden?
Ik heb betoogd dat kunstmatige intelligentie, of geautomatiseerde besluitvormingssystemen, deze eeuw een mensenrechtenkwestie zal worden. Ik ben er sterk van overtuigd dat, omdat algoritmen en projecten voor machine learning gegevens gebruiken die al bevooroordeeld, onvolledig en gebrekkig zijn, en [we] machines leren hoe ze beslissingen moeten nemen op basis van die informatie. We weten dat [dat] tot een verscheidenheid aan ongelijksoortige resultaten zal leiden. Laat ik hieraan toevoegen dat AI steeds moeilijker zal worden om in te grijpen, omdat het minder duidelijk zal worden welke gegevens zijn gebruikt om het maken van die AI, of het maken van die systemen, te informeren. Er zijn bijvoorbeeld veel verschillende soorten datasets die niet gestandaardiseerd zijn, die samenvloeien om beslissingen te nemen.
Heb je sinds je in 2010 voor het eerst naar zwarte meisjes zocht, dingen beter of slechter zien worden?
Sinds ik begon te schrijven over en in het openbaar te spreken over zwarte meisjes die met pornografie in verband worden gebracht, zijn de dingen veranderd. Nu staat de pornografische en hypergeseksualiseerde inhoud niet op de eerste pagina, dus ik denk dat dat een stille verbetering was die niet met veel tamtam tot stand kwam. Maar andere gemeenschappen, zoals Latina en Aziatische meisjes, worden nog steeds sterk geseksualiseerd in zoekresultaten.