AI's blanke probleem gaat niet weg

Eric Gay/AP

De cijfers vertellen het verhaal van het nijpende gebrek aan diversiteit van de AI-industrie. Vrouwen vertegenwoordigen slechts 18% van de auteurs op toonaangevende AI-conferenties, 20% van de AI-lectoraten en respectievelijk 15% en 10% van het onderzoekspersoneel bij Facebook en Google. Raciale diversiteit is nog erger: zwarte arbeiders vertegenwoordigen slechts 2,5% van het volledige personeelsbestand van Google en 4% van dat van Facebook en Microsoft. Er zijn geen gegevens beschikbaar over transgenders en andere genderminderheden, maar het is onwaarschijnlijk dat ook daar tegen de trend wordt ingegaan.

Dit is zeer verontrustend wanneer de invloed van de industrie dramatisch is gegroeid en van invloed is op alles, van aanwerving en huisvesting tot strafrecht en het leger. Gaandeweg heeft de technologie de vooroordelen van de makers geautomatiseerd tot een alarmerend effect: vrouwen cv's devalueren , voortzetting van discriminatie op het gebied van werkgelegenheid en huisvesting , en verankering van racistische politiepraktijken en veroordelingen in de gevangenissen .

Deze gevolgen zullen alleen maar erger worden zonder een andere aanpak om het probleem op te lossen, zegt a nieuw rapport deze week uit van onderzoeksinstituut AI Now.

Het probleem van een gebrek aan diversiteit in technologie [...] heeft een nieuw en urgent keerpunt bereikt, zei Meredith Whittaker, de medeoprichter van het instituut, tijdens een persconferentie bij het rapport. Miljoenen mensen voelen de effecten van deze tools en worden beïnvloed door elke AI-bias die erin wordt ingebakken.

Het AI Now-team identificeert twee hoofdredenen waarom pogingen om een ​​gebrek aan diversiteit aan te pakken zijn mislukt. Ten eerste ligt er een grote nadruk op het vergroten van vrouwen in technologie en minder op het verbeteren van de diversiteit van ras, geslacht en andere kwaliteiten. Ten tweede is er een onevenredige focus op het repareren van de pijplijn - het idee om het aantal kandidaten uit ondervertegenwoordigde groepen die van scholen naar de industrie stromen, te vergroten. Dit heeft de neiging om andere systemische nadelen te onderschatten die vrouwen en minderheden ervan weerhouden om in het veld te blijven, zoals intimidatie, oneerlijke compensatie en machtsongelijkheid.

De onderzoekers doen verschillende aanbevelingen om de diversiteit op de werkplek op een meer omvattende manier te verbeteren. Deze omvatten maatregelen die gericht zijn op het dichten van de loon- en kansenkloof, het vergroten van de diversiteit op de leiderschapsniveaus over de afdelingen en het veranderen van de prikkelstructuren voor bedrijfsleiders om werknemers uit ondervertegenwoordigde groepen in dienst te nemen en te behouden.

Maar het probleem gaat ook dieper dan aanname- en compensatiepraktijken, zegt Jessie Daniels, een onderzoeker bij Data & Society, die het snijvlak van racisme en technologie bestudeert en niet betrokken was bij het rapport. De tech-industrie is fundamenteel gebouwd op het ethos dat technologie onafhankelijk van de samenleving bestaat, zegt ze: In het begin van de jaren '90 was er het idee dat internet ons zou verlossen van zaken als ras en geslacht en ziekte; het idee dat we naar deze plek zouden gaan die 'cyberspace' wordt genoemd, waar we niet meer hoeven na te denken over belichaming of identiteit.

Dat idee is tot op de dag van vandaag bij de industrie gebleven en is de oorzaak van zowel de herhaalde mislukkingen om de diversiteit van werknemers te vergroten als de herhaalde schandalen rond AI-bias. Techbedrijven worden gebouwd - en technische producten worden ontworpen - met de fantasie dat ze onafhankelijk van het seksisme, racisme en de maatschappelijke context om hen heen bestaan.

Dat is geen bug, zegt Daniels. Het is een functie.

zich verstoppen