We zouden al volgende week federale regelgeving over gezichtsherkenning kunnen zien

AP Foto/John Minchillo, Bestand

Op 10 mei stuurden 40 belangengroepen een open brief een permanent verbod eisen over het gebruik van de gezichtsherkenningssoftware van Amazon, Rekognition, door de Amerikaanse politie. De brief was gericht aan Jeff Bezos en Andy Jassy, ​​de huidige en nieuwe CEO's van het bedrijf, en kwam slechts enkele weken voor Een jaar lang moratorium van Amazon op de verkoop aan wetshandhavers zou aflopen.

De brief contrasteerde de vocale steun van Bezos en Jassy voor Black Lives Matter-campagnevoerders tijdens de protesten tegen raciale gerechtigheid van afgelopen zomer na de moord op George Floyd met de berichtgeving dat andere Amazon-producten zijn door wetshandhavers gebruikt om demonstranten te identificeren .

Op 17 mei, Amazon bekend gemaakt het zou zijn moratorium voor onbepaalde tijd verlengen en zich aansluiten bij concurrenten IBM en Microsoft in een zelfregulerend vagevuur. De stap is een knipoog naar de politieke macht van de groepen die strijden om de technologie in te dammen - en de erkenning dat er nieuwe wetgevende strijdtonelen beginnen te ontstaan. Velen geloven dat er binnenkort een substantiële federale wetgeving zal komen.

Mensen zijn uitgeput

Het afgelopen jaar is geweest cruciaal voor gezichtsherkenning , met onthullingen over de rol van de technologie in valse arrestaties , en een verbod erop ingesteld door bijna twee dozijn steden en zeven staten over de VS. Maar het momentum is al een tijdje aan het verschuiven.

In 2018 publiceerden AI-onderzoekers een onderzoek het vergelijken van de nauwkeurigheid van commerciële gezichtsherkenningssoftware van IBM, Microsoft en Face++. Uit hun werk bleek dat de technologie mannen met een lichtere huid veel nauwkeuriger identificeerde dan vrouwen met een donkere huid; Het systeem van IBM scoorde het slechtst, met een verschil in foutenpercentage van 34,4% tussen de twee groepen.

Ook anno 2018, de ACLU heeft Amazon's Rekognition getest en ontdekte dat het 28 leden van het Congres ten onrechte als criminelen identificeerde - een fout die mensen van kleur onevenredig treft. De organisatie schreef zijn eigen open brief aan Amazon , waarin wordt geëist dat het bedrijf het gebruik van de technologie door de overheid verbiedt, net als de Congressional Black Caucus -maar Amazon heeft geen wijzigingen aangebracht.

(Een woordvoerder van Amazon verwees MIT Technology Review naar a) weerwoord gepubliceerd in juli 2018 waarin de problemen worden uiteengezet die het bedrijf had met de nauwkeurigheid en methoden van de ACLU-test.)

'Als we ons gaan inzetten voor raciale gelijkheid in het strafrechtsysteem... een van de eenvoudigste en duidelijkste dingen die je kunt doen, is het gebruik van gezichtsherkenningstechnologie beëindigen.'

Kate Ruane, ACLU

Tijdens de raciale rechtvaardigheidsbewegingen tegen politiegeweld afgelopen zomer, verraste Amazon echter velen door aan te kondigen dat het het gebruik van Rekognition door de politie stopte, met uitzonderingen voor federale wetshandhavers zoals ICE. De aankondiging van het bedrijf zei te hopen dat de pauze het Congres genoeg tijd zou geven om passende regels in te voeren.

Evan Greer is de directeur van Fight for the Future, een technologie-advocatuurgroep die gelooft in de afschaffing van gezichtsherkenningstechnologie en zegt dat er een groeiende publieke steun is voor regulering ervan. Ze zegt dat de verlenging van het moratorium deze week laat zien dat Amazon reageert op deze enorme druk die ze krijgen, niet alleen rond gezichtsherkenning, en voegt eraan toe dat ik enorm veel waardering heb voor de landelijke opstanden voor rassenrechtvaardigheid die het afgelopen jaar hebben plaatsgevonden en een half.

Een politieke realiteit

Hoewel grote technologieleveranciers onder druk komen te staan, is de realiteit dat de meeste gebruikers van wetshandhavers en overheden geen gezichtsherkenningssoftware kopen van bedrijven als Amazon. Dus hoewel de moratoria en verboden welkom zijn voor belangengroepen, verhinderen ze niet noodzakelijk dat de technologieën worden gebruikt. Ondertussen heeft het Congres nog geen federale wetgeving aangenomen over gezichtsherkenning in wetshandhavings-, overheids- of commerciële instellingen die kleinere providers zouden reguleren.

Sommigen hopen echter dat er binnenkort federale wetgeving komt, hetzij door directe actie van het congres, een presidentieel uitvoerend bevel, of aanstaande wetsvoorstellen voor toe-eigening en politiehervorming.

Ik denk dat het beste scenario is dat het Congres een moratorium op het gebruik ervan goedkeurt, zegt Kate Ruane, senior wetgevend adviseur bij de ACLU. Ze vindt dat nieuwe toepassingen pas mogen worden toegestaan ​​na meer wetgevend werk.

Er zijn al verschillende federale wetsvoorstellen ingediend die de toegang tot gezichtsherkenning zouden beperken.

• De Moratoriumwet op gezichtsherkenning en biometrische technologie roept op tot een verbod op het gebruik van de software door federale entiteiten en het achterhouden van federale subsidies aan staats- en lokale autoriteiten die hun eigen moratorium niet vaststellen. Het werd voorgesteld door vier Democratische leden van het Congres en vorig jaar voorgesteld aan de Senaat.
• De George Floyd Justitie in politiewet zou het gebruik van gezichtsherkenning in lichaamscamera's voorkomen. Het wetsvoorstel is al in de Tweede Kamer aangenomen en zal naar verwachting komende week in de Eerste Kamer komen. President Biden heeft gevraagd dat het wetsvoorstel wordt aangenomen vóór de verjaardag van de dood van George Floyd op 25 mei.
• De Vierde amendement is niet te koop Act , een tweeledig wetsvoorstel ingediend door 18 senatoren, beperkt de overheid om samen te werken met technologieleveranciers die de servicevoorwaarden schenden. In de praktijk zou het de toegang van de overheid tot systemen die zich bezighouden met webscraping grotendeels voorkomen, zoals Clearview AI .

Mutale Nkonde, de oprichter en CEO van AI for the People, een non-profitorganisatie die pleit voor raciale rechtvaardigheid in technologie, is van mening dat we volgend jaar bij de tussentijdse verkiezingen waarschijnlijk aanvullende federale wetgeving zullen zien.

Ik denk echt dat er federale wetgeving wordt ingevoerd die alle algoritmische systemen gaat regelen, inclusief gezichtsherkenning, zegt Nkonde. Ik denk dat dat een politieke realiteit is.

Nkonde zegt dat het concept van effectbeoordelingen, die technologische systemen evalueren op basis van burgerrechten, aan kracht wint in beleidskringen aan beide kanten van het gangpad.

De ACLU lobbyt bij de Biden-administratie voor een uitvoerend bevel, en het is onlangs publiceerde een brief met 40 andere groepen vragen om een ​​onmiddellijk verbod op het gebruik van de technologie door de overheid.

Als we ons gaan inzetten voor raciale gerechtigheid, als we ons gaan inzetten voor raciale gelijkheid in het strafrechtsysteem, dan gaan we ons inzetten voor dat soort hervormingen, een van de eenvoudigste en duidelijkste dingen die je kunt doen, is een einde maken aan het gebruik van gezichtsherkenningstechnologie, zegt Ruane.

Mensen zijn gewoon radicaler

Ondertussen verwacht Ruane dat zelfregulering een van de meest effectieve methoden blijft om uitgebreid gebruik van gezichtsherkenning te voorkomen. Het is aannemelijk dat federale instanties zoals de ministeries van Volkshuisvesting, Binnenlandse Veiligheid en Onderwijs zullen overwegen om regels op te leggen die het gebruik van de technologie verbieden .

Nkonde is optimistisch dat de moratoria zullen uitgroeien tot verboden en meer permanente wetgeving: ik denk dat moratoria mogelijk leken voordat George Floyd werd vermoord. Daarna zijn mensen alleen maar radicaler.

Maar Greer waarschuwt ervoor dat, ondanks al het momentum tegen gezichtsherkenning, wetgeving die sterk gericht is op de raciale nauwkeurigheid van de systemen, diepere problemen misschien niet oplost. Ik denk dat het een vergissing zou zijn als beleidsmakers nauwkeurigheid zien als het enige probleem met gezichtsherkenning dat moet worden aangepakt, zegt ze. De industrie zou eigenlijk heel blij zijn met een wetsvoorstel waarin bijvoorbeeld iets staat als 'Als je een gezichtsherkenningssysteem gaat verkopen, moet het 99% nauwkeurig zijn voor mensen van alle verschillende rassen en huidskleuren'.

Zelfs als de vooringenomenheid niet in het systeem is ingebakken, heb je nog steeds een bevooroordeeld politiesysteem dat nu wordt versneld en een soort van supercharged met deze technologie, voegt ze eraan toe.

Dit verhaal is bijgewerkt met Amazon's weerlegging van de ACLU-test van Amazon's Rekognition-systeem in 2018.

zich verstoppen