Een studie van de Amerikaanse regering bevestigt dat de meeste gezichtsherkenningssystemen racistisch zijn

Categorie: Kunstmatige intelligentie Geplaatst 20 dec

Bijna 200 algoritmen voor gezichtsherkenning - een meerderheid in de branche - presteerden slechter op niet-blanke gezichten, volgens a mijlpaal studie .

Wat ze hebben getest: Het Amerikaanse National Institute of Standards and Technology (NIST) heeft elk algoritme getest op twee van de meest voorkomende taken voor gezichtsherkenning. De eerste, ook wel een-op-een-matching genoemd, houdt in dat een foto van iemand wordt gekoppeld aan een andere foto van dezelfde persoon in een database. Dit wordt gebruikt om bijvoorbeeld smartphones te ontgrendelen of paspoorten te controleren. De tweede, ook wel een-op-veel-zoekopdracht genoemd, houdt in dat wordt bepaald of een foto van iemand een match heeft in een database. Dit wordt vaak gebruikt door politiediensten om verdachten te identificeren in een onderzoek.

Het bureau bestudeerde vier gezichtsdatasets die momenteel worden gebruikt in applicaties van de Amerikaanse overheid: mugshots van mensen die in de VS wonen; toepassingsfoto's van mensen die immigratievoordelen aanvragen; aanvraagfoto's van mensen die een visum aanvragen; en foto's van mensen terwijl ze de grens met de VS overstaken. In totaal bevatten de datasets 18,27 miljoen afbeeldingen van 8,49 miljoen mensen.

Wat ze vonden: NIST deelde enkele resultaten op hoog niveau van het onderzoek. De belangrijkste:

1. Voor een-op-een-matching hadden de meeste systemen een hoger percentage fout-positieve matches voor Aziatische en Afro-Amerikaanse gezichten dan voor blanke gezichten, soms met een factor 10 of zelfs 100. Met andere woorden, ze hadden meer kans op een match vinden als die er niet was.

2. Dit veranderde voor in Aziatische landen ontwikkelde gezichtsherkenningsalgoritmen, die weinig verschil opleverden in valse positieven tussen Aziatische en blanke gezichten.

3. Algoritmen die in de VS zijn ontwikkeld, waren allemaal consequent slecht in het matchen van Aziatische, Afro-Amerikaanse en Indiaanse gezichten. Inheemse Amerikanen leden de hoogste percentages valse positieven.

4. Een-op-veel-matching, systemen hadden de slechtste percentages valse positieven voor Afro-Amerikaanse vrouwen, waardoor deze populatie het grootste risico loopt om valselijk beschuldigd te worden van een misdaad.

Waarom dit belangrijk is: Het gebruik van gezichtsherkenningssystemen groeit snel in wetshandhaving, grenscontrole en andere toepassingen in de samenleving. Hoewel verschillende academische studies eerder hebben aangetoond dat populaire commerciële systemen vooringenomen zijn op het gebied van ras en geslacht, is de studie van NIST de meest uitgebreide evaluatie tot nu toe en bevestigt deze eerdere resultaten. De bevindingen roepen de vraag op of deze systemen zo wijdverbreid moeten worden gebruikt.

Volgende stappen: Het is nu aan beleidsmakers om uit te zoeken hoe deze technologieën het beste kunnen worden gereguleerd. NIST dringt er ook bij ontwikkelaars van gezichtsherkenning op aan om meer onderzoek te doen naar hoe deze vooroordelen kunnen worden verzacht.

Meld u aan voor onze Webby-genomineerde AI-nieuwsbrief The Algorithm om meer van dit soort verhalen rechtstreeks in uw inbox te ontvangen. Het is gratis.