211service.com
Zijn gezichtsherkenningssystemen nauwkeurig? Hangt van je ras af.
Alles wat we weten over de gezichtsherkenningssystemen die de FBI en de politie gebruiken, suggereert dat de software een ingebouwde raciale vooringenomenheid heeft. Dat is niet met opzet - het is een artefact van hoe de systemen zijn ontworpen en de gegevens waarop ze zijn getraind. Maar het is problematisch. Wetshandhavingsinstanties vertrouwen steeds meer op dergelijke instrumenten om te helpen bij strafrechtelijk onderzoek, waardoor het risico dat er iets mis kan gaan groter wordt.
Wetshandhavingsinstanties hebben niet veel details verstrekt over hoe ze gezichtsherkenningssystemen gebruiken, maar in juni bracht het Government Accountability Office een rapport uit waarin stond dat de FBI de nauwkeurigheid van zijn gezichtsherkenningssysteem, noch dat van het enorme netwerk van gezichtsherkenningsdatabases op staatsniveau waartoe het toegang heeft.
En hoewel ultramoderne gezichtsherkenningssystemen bijna 95 procent nauwkeurig kunnen zijn op mugshot-databases, worden die foto's onder gecontroleerde omstandigheden gemaakt met over het algemeen coöperatieve onderwerpen. Afbeeldingen die zijn gemaakt onder minder dan ideale omstandigheden, zoals slechte verlichting, of die ongebruikelijke poses en gezichtsuitdrukkingen vastleggen, kunnen tot fouten leiden.
Illustratie door Sophia Foster-Dimino
De algoritmen kunnen ook bevooroordeeld zijn vanwege de manier waarop ze zijn getraind, zegt Anil Jain , hoofd van de onderzoeksgroep biometrie aan de Michigan State University. Om te werken, moet software voor het matchen van gezichten eerst leren gezichten te herkennen met behulp van trainingsgegevens, een reeks afbeeldingen die de software informatie geeft over hoe gezichten verschillen. Als een geslacht, leeftijdsgroep of ras ondervertegenwoordigd is in de trainingsgegevens, wordt dat weerspiegeld in de prestaties van het algoritme, zegt Jain.
In 2012 gebruikten Jain en verschillende collega's een reeks foto's van het Sheriff's Office van Pinellas County in Florida om de prestaties te onderzoeken van verschillende commercieel beschikbare gezichtsherkenningssystemen, waaronder die van leveranciers die leveren aan wetshandhavingsinstanties. De algoritmen waren: steeds minder nauwkeurig op vrouwen, Afro-Amerikanen en jongeren. Blijkbaar zijn ze getraind op data die niet representatief genoeg waren voor die groepen, zegt Jain.
Als je trainingsset sterk gericht is op een bepaalde race, zal je algoritme die race beter herkennen, zegt: Alice O’Toole , hoofd van het onderzoekslaboratorium voor gezichtsperceptie aan de Universiteit van Texas in Dallas. O'Toole en enkele collega's gevonden in 2011 dat een in westerse landen ontwikkeld algoritme beter was in het herkennen van blanke gezichten dan in het herkennen van Oost-Aziatische gezichten. Evenzo presteerden Oost-Aziatische algoritmen beter op Oost-Aziatische gezichten dan op blanke.
In de jaren sinds deze onderzoeken is de nauwkeurigheid van commerciële algoritmen op veel gebieden aanzienlijk verbeterd, en volgens Jain zijn de prestatiekloven tussen verschillende geslachten en rassen mogelijk kleiner geworden. Maar er is zo weinig testinformatie beschikbaar, het is moeilijk te weten. Nieuwere benaderingen van gezichtsherkenning, zoals de deep learning-systemen die Google en Facebook hebben ontwikkeld, kunnen dezelfde soort fouten maken als de trainingsgegevens onevenwichtig zijn, zegt hij.
Jonathon Phillips, een elektronische ingenieur bij het National Institute of Standards and Technology, voert prestatietests uit van commerciële algoritmen. Hij zegt dat het mogelijk is om een test te ontwerpen om raciale vooroordelen te meten in systemen voor het matchen van gezichten. In feite hebben privacy-experts opgeroepen tot dergelijke tests verplicht stellen.
De FBI en MorphoTrust, de leverancier die de gezichtsherkenningssoftware van het bureau levert, beantwoordden geen e-mailvragen van MIT Technology Review of ze de prestaties van hun algoritmen testen op ras, geslacht of leeftijd.
De afspraken tussen verkopers en de vele wetshandhavingsinstanties van de staat die gezichtsherkenning gebruiken, zijn ook niet duidelijk. Maar Pete Langenfeld, manager digitale analyse en identificatie voor de Michigan State Police, zegt dat zijn organisatie niet test op groepsspecifieke nauwkeurigheid. Hij zei dat hij niet weet of de leverancier die de technologie heeft geleverd dergelijke tests ook uitvoert, maar voegde eraan toe dat het eigendomsinformatie is en dat het bedrijf niet verplicht is om die informatie vrij te geven.