211service.com
Waarom 2020 een cruciaal, tegenstrijdig jaar was voor gezichtsherkenning
Alexander Farnsworth | Getty
Amerika's eerste bevestigde onrechtmatige arrestatie door gezichtsherkenningstechnologie vond plaats in januari 2020. Robert Williams, een zwarte man, werd gearresteerd op zijn oprit net buiten Detroit, terwijl zijn vrouw en jonge dochter toekeken. Hij bracht de nacht door in de gevangenis. De volgende dag schoof een rechercheur in de verhoorkamer een foto over de tafel naar Williams van een andere zwarte man die op video was betrapt op het stelen van horloges uit de boetiek Shinola.
Ben jij dit? hij vroeg .
Nee, dat ben ik niet. antwoordde Willems.
De rechercheur liet een andere foto zien. Ik neem aan dat jij dit ook niet bent?
Williams hield de foto naast zijn gezicht. Hij was het duidelijk niet. Williams zei: Dit ben ik niet. Ik hoop dat je niet denkt dat alle zwarte mensen op elkaar lijken.
De computer zegt dat jij het bent, antwoordde de rechercheur.
Het nieuwe aan de arrestatie van Robert Williams was niet dat het gebeurde, of dat het een vergissing was. Het is bekend dat gezichtsherkenning minder nauwkeurig is voor mensen met een donkere huidskleur. En de technologie wordt veel gebruikt door politiediensten in de Verenigde Staten, hoewel er geen goede gegevens zijn over hoe wijdverbreid het is. Het ongebruikelijke aan het verhaal van Williams is dat de politie toegaf gezichtsherkenning te hebben gebruikt bij zijn arrestatie.
Het nieuws van de zaak werd begin augustus openbaar en - na een zomer van protest gericht op de manier waarop zwarte gemeenschappen in Amerika worden gecontroleerd - werd het met landelijke verontwaardiging begroet. Een paar weken later kwam opnieuw een onrechtmatige arrestatie van een zwarte man in Detroit aan het licht vanwege gezichtsherkenningstechnologie.
Zelfs daarvoor hadden activisten een einde geëist aan Project Greenlight, het stadsbrede publiek-private initiatief dat gezichtsherkenning gebruikt om de misdaad te verminderen. En toch loopt niet alleen het project nog steeds: eind september stemde de gemeenteraad voor verlenging van het contract tussen de Detroit Police Department en zijn gezichtsherkenningsprovider, DataWorks Plus.
Een jaar van tegenstellingen
De gebeurtenissen in Detroit illustreren onze gecompliceerde relatie met gezichtsherkenning op dit moment. Het gebruik ervan groeit en op sommige gebieden is de technologie een integraal onderdeel geworden. In andere, zoals de detailhandel, begint gezichtsherkenning met hoge verwachtingen voor de toekomst te worden uitgerold. Veel technologieaanbieders wedden dat het publiek steeds meer vertrouwd zal raken met het gebruik van biometrie, en dat het binnenkort een organisch onderdeel van het digitale leven zal zijn: Apple heeft er zwaar op ingezet en nu gebruiken miljoenen mensen zijn Face ID-systeem om hun Elke dag iPhone.
Maar het publiek heeft ook een nieuw bewustzijn gekregen van de gevaren die gezichtsherkenning met zich meebrengt, vooral in het strafrecht. Er is nu aanzienlijk meer bewustzijn, meer bezorgdheid en meer conversatie dan ooit tevoren, en dit jaar is er meer wetgeving over gezichtsherkenning geweest dan in alle voorgaande jaren samen. Er waren in 2019 verboden of moratoria in zes steden in de VS, en hetzelfde dit jaar.
Het zal moeilijk zijn om deze wetten te verzoenen met de groei van de industrie. Maar de gebeurtenissen van 2020 geven enkele aanwijzingen over hoe deze compromissen het komende jaar kunnen uitpakken.
Kleine spelers, grote industrie
In januari, de New York Times een onderzoek gepubliceerd van ClearviewAI, een klein bedrijf voor gezichtsherkenning dat zijn algoritme liet draaien op een database met miljarden foto's die van sociale media waren gehaald. Politieafdelingen die het systeem van ClearviewAI gebruikten, hadden tijdens onderzoeken effectief toegang tot uw Facebook-foto's om overeen te komen met vaak wazige of onvolledige politiebeelden.
Het bedrijf kreeg veel kritiek, en daaropvolgende berichtgeving door BuzzFeed News toonde aan dat het systeem werd gebruikt door maar liefst 2.200 wetshandhavingsinstanties in de VS, evenals door immigratie- en douanehandhaving, het ministerie van Justitie en retailers, waaronder Macy's en Walmart.
Het Clearview-verhaal maakte veel mensen bang, zoals het hoort, zegt Jameson Spivack, een beleidsmedewerker bij het Center on Privacy and Technology van Georgetown University. Veel van de zorgen richten zich op hoe gefragmenteerd het veld is. Hoewel grote bedrijven zoals IBM en Microsoft belangrijke krachten zijn, zijn er ook veel kleinere particuliere bedrijven, zoals ClearviewAI en NtechLab, die opereren met weinig publiek toezicht. De rapportage onthulde ook hoe weinig het publiek wist over het wijdverbreide gebruik van de technologie door de overheid.
De katalysator: rassenprotesten
Deze verhalen maakten mensen bewust van de problemen, maar volgens Spivack waren de Black Lives Matter-protesten na de moord op George Floyd de grootste katalysator voor wetgeving die het gebruik van gezichtsherkenning in de Verenigde Staten aan banden legde. Amerikanen begonnen plotseling politiewerk en zijn instrumenten, beleid en cultuur opnieuw te onderzoeken.
De bezorgdheid begon te groeien nadat onderzoekers Joy Buolamwini en Timnit Gebru ontdekten en gedocumenteerde raciale vooroordelen in commerciële gezichtsherkenningsproducten in 2018, waardoor verschillende steden en staten naar wetten goedkeuren dat verhinderde de politie gezichtsherkenning te gebruiken in combinatie met lichaamscamera's.
Maar tijdens de grootste protestbeweging in de Amerikaanse geschiedenis, activisten waren bezorgd dat politiebewakingstechnologieën zouden worden gebruikt voor vergelding. Sindsdien is bevestigd dat ten minste de New York , Miami , en Washington, DC, politieafdeling Ze gebruikten gezichtsherkenning om demonstranten in de gaten te houden.
Op 1 juni in Washington DC gebruikte de politie peperballen en traangas om demonstranten op Lafayette Square terug te dringen, zodat president Trump een fotomoment kon scoren in een nabijgelegen kerk. Te midden van de chaos sloeg een demonstrant een politieagent. Dagen later vonden agenten een foto van de man op Twitter en haalden die door hun gezichtsherkenningssysteem, vonden een match en deden een arrestatie. Evenzo werd in Miami een vrouw gearresteerd die ervan werd beschuldigd tijdens een protest stenen naar de politie te hebben gegooid, op basis van een gezichtsherkenningswedstrijd.
Spivack zag grassroots-activisten tegen gezichtsherkenning de hele zomer en herfst nauw samenwerken met politiehervormingsgroepen, geleid door andere belangengroepen zoals de American Civil Liberties Union. In Portland, Oregon, creëerde een demonstrant zelfs een gezichtsherkenningssysteem om anonieme politieagenten identificeren .
Naarmate 2020 vorderde, werd wetgeving voorgesteld om het gebruik van dergelijke technologie door de politie te beperken op gemeentelijk, staats- en zelfs federaal niveau. In juni hebben Democratische wetgevers een wetsvoorstel ingediend dat het gebruik van gezichtsherkenning door federale wetshandhavingsinstanties zou verbieden. In Vermont zorgde een uitvoerend bevel van de gouverneur voor een staatsbreed verbod op het gebruik van de technologie door de overheid. In Massachusetts hebben de steden Cambridge en Boston deze zomer een verbod op de technologie ingevoerd, en de deelstaatregering keurde het goed een verbod op gezichtsherkenning voor openbare instanties, waaronder wetshandhaving, in december; Gouverneur Charlie Baker is momenteel weigeren de rekening te ondertekenen .
Californië begon in mei zijn eigen debat over wetgeving over de gehele staat, en de steden San Francisco en Oakland hebben het gebruik van gezichtsherkenning door wetshandhavers al verboden. In juli stelde New York City een moratorium in op gezichtsherkenning op scholen tot 2022. In Portland, Oregon, verbiedt een nieuw stadsbreed verbod het gebruik van de technologie door een publieke of private groep.
Maar deze verschuiving vindt niet overal plaats, zoals blijkt uit de hernieuwde inzet voor surveillance in Detroit. Spivack speculeert dat raciale machtsdynamiek de politieke strijd rond politietoezicht zou kunnen beïnvloeden. Als je kijkt naar veel van de steden die als een van de eersten gezichtsherkenning verbood, waren ze doorgaans - niet altijd, maar meestal - rijker, witter, zeer vooruitstrevend, misschien met meer politiek kapitaal en het vermogen om invloed uit te oefenen op wetgevers, meer nog dan meer gemarginaliseerde gemeenschappen, zegt hij.
Een nationaal perspectief?
Niet alle reacties hebben echter de vorm van wetgeving aangenomen. Begin juni maakte IBM bekend dat het stopte met de verkoop van gezichtsherkenningsproducten. Amazon en Microsoft volgden dit voorbeeld door hun contracten met politiediensten tijdelijk te beëindigen. En in juli diende de ACLU in een rechtszaak tegen ClearviewAI voor het niet naleven van de Illinois Biometrische Informatie Privacy Act - de eerste volledige juridische uitdaging voor het bedrijf.
Microsoft, Amazon, IBM en branchegroepen zoals de Security Industry Association bereiden zich voor op een gevecht. ze dramatisch verhoogde de hoeveelheid lobbyen op gezichtsherkenning van 2018 tot 2019, en naar verwachting zal 2020 een nog grotere stijging laten zien. Velen zijn voorstander van meer regelgeving, maar geen verbod. Het moratorium van Amazon loopt in juni af en dat van Microsoft is afhankelijk van de instelling van een federale wet.
Ondertussen blijft de ACLU wetgeving opstellen die tot doel heeft de technologie te verbieden. Een verklaring op haar website luidt dat de organisatie naar de rechtbanken, straten, wetgevende machten, gemeenteraden en zelfs bestuurskamers van bedrijven stapt om onze rechten te verdedigen tegen de groeiende gevaren van deze ongereguleerde bewakingstechnologie.
De prioriteiten van de nieuwe regering zullen ook in 2021 en daarna de regelgeving vormgeven. Als presidentskandidaat, Kamala Harris geciteerde regulering van gezichtsherkenning in de rechtshandhaving als onderdeel van haar politiehervormingsplan. Als de regering aandringt op federale wetgeving, is de kans groter dat het een nationale kwestie wordt, met als gevolg dat er minder middelen zullen worden besteed aan meer lokale toezichtcampagnes. Maar als dat niet het geval is, zal de strijd waarschijnlijk op staats- en stadsniveau blijven spelen.