De nieuwe rechtszaak die gezichtsherkenning aantoont, is officieel een kwestie van burgerrechten

ACLU

Op 9 januari 2020 reed de politie van Detroit naar de buitenwijk Farmington Hill en arresteerde Robert Williams op zijn oprit terwijl zijn vrouw en jonge dochters toekeken. Williams, een zwarte man, werd beschuldigd van het stelen van horloges uit Shinola, een luxe winkel. Hij werd een nacht in de gevangenis vastgehouden.

Tijdens het verhoor liet een agent Williams een foto van een verdachte zien. Zijn reactie, zoals hij vertelde de ACLU , was om de claim af te wijzen. Dit ben ik niet, zei hij tegen de officier. Ik hoop dat jullie niet denken dat alle zwarte mensen op elkaar lijken. Hij zegt dat de officier antwoordde: De computer zegt dat jij het bent.

Verwant verhaal

Wat gebeurt er als een algoritme het bij het verkeerde eind heeft?

Het vreemde aan de valse arrestatie van Robert Williams was niet dat de politie gezichtsherkenning gebruikte om hem te identificeren. Het is dat ze hem erover vertelden.

De onrechtmatige arrestatie van Williams, die voor het eerst werd gemeld door de New York Times in augustus 2020 , was gebaseerd op een slechte match van het gezichtsherkenningssysteem van de Detroit Police Department. Nog twee Instanties van valse arrestaties zijn inmiddels openbaar gemaakt. Beiden zijn ook zwarte mannen, en beiden hebben juridische stappen ondernomen.

Nu volgt Williams hun pad en gaat verder - niet alleen door de afdeling aan te klagen voor zijn onrechtmatige arrestatie, maar door te proberen de technologie te verbieden.

Op dinsdag hebben de ACLU en het Civil Rights Litigation Initiative van de University of Michigan Law School diende een rechtszaak namens Williams, bewerend dat de arrestatie zijn rechten op het vierde amendement schond en in strijd was met de burgerrechtenwet van Michigan.

De rechtszaak vraagt ​​om compensatie, meer transparantie over het gebruik van gezichtsherkenning en een einde aan het gebruik van gezichtsherkenningstechnologie door de politie van Detroit, zowel direct als indirect.

Wat zegt de rechtszaak?

De documenten ingediend op dinsdag leg de zaak uit. In maart 2019 had de DPD een korrelige foto van een zwarte man met een rode pet uit Shinola's bewakingsvideo door zijn gezichtsherkenningssysteem laten lopen, gemaakt door een bedrijf genaamd DataWorks Plus. Het systeem gaf een match terug met een oude rijbewijsfoto van Williams. De rechercheurs namen vervolgens William's licentiefoto op als onderdeel van een fotoreeks, en een Shinola-beveiligingsaannemer ( wie was er eigenlijk niet aanwezig ten tijde van de diefstal) identificeerde Williams als de dief. De officieren kregen een bevel, waarvoor meerdere handtekeningen van de afdelingsleiding vereist waren, en Williams werd gearresteerd.

De aanklacht stelt dat de valse arrestatie van Williams een direct gevolg was van het gezichtsherkenningssysteem, en dat deze onrechtmatige arrestatie en gevangenisstraf een voorbeeld is van de ernstige schade veroorzaakt door het misbruik van en het vertrouwen op gezichtsherkenningstechnologie.

De zaak bevat vier punten, waarvan drie gericht zijn op het ontbreken van een waarschijnlijke reden voor de arrestatie, terwijl één zich richt op de raciale verschillen in de impact van gezichtsherkenning. Door gebruik te maken van technologie waarvan empirisch is bewezen dat deze zwarte mensen verkeerd identificeert met snelheden die veel hoger zijn dan die van andere groepen mensen, zo stelt het, ontzegde de DPD de heer Williams het volledige en gelijke genot van de diensten, privileges en voordelen van de Detroit Police Department vanwege zijn ras of kleur.

De moeilijkheden van gezichtsherkenningstechnologie bij het identificeren van mensen met een donkere huid zijn: goed gedocumenteerd . Na de moord op George Floyd in Minneapolis in 2020, kondigden sommige steden en staten een verbod en moratorium aan op het gebruik van gezichtsherkenning door de politie. Maar vele anderen, waaronder Detroit, bleven het ondanks toenemende zorgen gebruiken.

Vertrouwen op ondermaatse afbeeldingen

Toen MIT Technology Review vorig jaar sprak met de ACLU-advocaat van Williams, Phil Mayor, benadrukte hij dat de problemen van racisme binnen de Amerikaanse wetshandhaving het gebruik van gezichtsherkenning nog zorgwekkender maakten.

Dit is geen one-bad-actor-situatie, zei burgemeester. Dit is een situatie waarin we een strafrechtelijk rechtssysteem hebben dat extreem snel in rekening wordt gebracht en extreem traag om de rechten van mensen te beschermen, vooral als we het hebben over gekleurde mensen.

Eric Williams, senior stafadvocaat bij de Economic Equity Practice in Detroit, zegt dat camera's veel technologische beperkingen hebben, niet in de laatste plaats dat ze hard gecodeerd zijn met kleurbereiken voor het herkennen van huidskleur en vaak eenvoudigweg geen donkere huid kunnen verwerken.

'Ik denk dat elke zwarte in het land de ervaring heeft gehad op een foto te staan ​​en de foto wordt ofwel veel lichter ofwel veel donkerder.'

Ik denk dat elke zwarte persoon in het land de ervaring heeft gehad op een foto te staan ​​en de foto wordt ofwel veel lichter ofwel veel donkerder, zegt Williams, die lid is van de advocatencommissie van de ACLU van Michigan, maar niet werkt aan de Robert geval Williams. Verlichting is een van de belangrijkste factoren als het gaat om de kwaliteit van een afbeelding. Dus het feit dat wetshandhaving tot op zekere hoogte vertrouwt op echt slechte beelden is problematisch.

Er zijn gevallen geweest waarin vooringenomen algoritmen en kunstmatige-intelligentietechnologieën werden uitgedaagd op basis van ras. Facebook onderging bijvoorbeeld een massale burgerrechtenaudit nadat bleek dat de gerichte advertentie-algoritmen advertenties weergeven op basis van ras, geslacht en religie. YouTube aangeklaagd in een class action-rechtszaak door zwarte makers die beweerde dat zijn AI-systemen gebruikers profileren en inhoud censureren of discrimineren op basis van ras. YouTube werd ook aangeklaagd door LGBTQ+-makers die zeiden dat systemen voor contentmoderatie markeerde de woorden homo en lesbisch.

Sommige experts zeggen dat het slechts een kwestie van tijd was voordat het gebruik van vooringenomen technologie door een grote instelling als de politie met juridische problemen werd geconfronteerd.

Verwant verhaal

Waarom 2020 een cruciaal, tegenstrijdig jaar was voor gezichtsherkenning De beweging voor raciale gerechtigheid duwde problemen met de technologie naar het publieke bewustzijn, maar ondanks schandalen en verboden vertraagt ​​de groei niet.

Het gebruik van gezichtsherkenning door de overheid heeft duidelijk een ongelijksoortige impact op mensen van kleur, zegt Adam Schwartz, senior stafadvocaat bij de Electronic Frontier Foundation. Studie na studie toont aan dat deze gevaarlijke technologie veel meer valse positieven heeft voor gekleurde mensen dan voor blanke mensen. Het gebruik van deze technologie door de overheid is dus in strijd met wetten die de overheid verbieden praktijken toe te passen die uiteenlopende gevolgen hebben.

Maar burgemeester, de advocaat van Williams, verwachtte een zware strijd. Hij vertelde vorig jaar aan MIT Technology Review dat hij verwachtte dat de politie van Detroit zou blijven beweren dat gezichtsherkenning een geweldig onderzoeksinstrument is.

De zaak-Williams bewijst van niet. Dat is het helemaal niet, zei hij. En in feite kan het mensen schaden als je het als onderzoeksinstrument gebruikt.

Onder de microscoop

In een verklaring zei Lawrence Garcia, de raadsman van de stad Detroit, dat de stad ernaar streefde 'een oplossing te vinden' in de zaak, maar zei dat gezichtsherkenning niet verantwoordelijk was voor de situatie.

'Zoals de politiechef heeft uitgelegd, was de arrestatie het resultaat van slordig onderzoek en niet van gebrekkige technologie', zei Garcia. 'De politie van Detroit heeft een intern onderzoek ingesteld en heeft verschillende leden van de afdeling aangeklaagd voor wangedrag. DPD heeft nieuwe protocollen opgesteld om soortgelijke problemen te voorkomen.'

Maar het Williams-pak komt op een kritiek moment voor race en politie in de VS. Het werd ingediend toen advocaten van de verdediging ruzie begonnen in het proces tegen Derek Chauvin, de officier die werd beschuldigd van de moord op George Floyd in Minneapolis afgelopen mei - en op de derde dag van protesten als reactie op het neerschieten van Daunte Wright in het nabijgelegen Brooklyn Center, Minnesota. Wright, een 20-jarige zwarte man, werd aangehouden voor een verkeersstop en gearresteerd onder een bevel voordat agent Kim Potter hem neerschoot en doodde, naar verluidt haar pistool aanzag voor een taser.

Eric Williams zegt dat het essentieel is om gezichtsherkenning te begrijpen in deze bredere context van falend politiewerk:

Toen DPD besloot de technologie te kopen... was het bekend dat gezichtsherkenningstechnologie vatbaar was voor verkeerde identificatie van mensen met een donkere huid voordat Mr. Williams in hechtenis werd genomen, toch? Ondanks dat feit hebben ze ervoor gekozen om deze technologie te gebruiken in een stad die voor meer dan 80% zwart is.

Je hecht duidelijk minder waarde aan het leven en het levensonderhoud en aan de burgerlijke vrijheden van zwarte mensen dan aan blanke mensen. Dat is gewoon te gebruikelijk in de huidige Verenigde Staten.

Dit verhaal is bijgewerkt met een verklaring van de stad Detroit. Jennifer Strong droeg bij aan dit verhaal.

zich verstoppen