De NYPD gebruikte een controversiële gezichtsherkenningstool. Dit is wat u moet weten.

Getty

Het is een drukke week geweest voor Clearview AI, het controversiële bedrijf voor gezichtsherkenning dat 3 miljard foto's van internet gebruikt om een ​​zoekmachine voor gezichten aan te drijven. Op 6 april werd Buzzfeed News gepubliceerd een database van meer dan 1.800 entiteiten – inclusief de staats- en lokale politie en andere door de belastingbetaler gefinancierde instanties zoals gezondheidszorgstelsels en openbare scholen – die naar eigen zeggen de controversiële producten van het bedrijf hebben gebruikt. Veel van die bureaus reageerden op de beschuldigingen door te zeggen dat ze de technologie alleen hadden uitgeprobeerd en geen formeel contract met het bedrijf hadden.

Maar de dag ervoor werd de definitie van een proef met Clearview gedetailleerd toen de non-profit nieuwssite Muckrock vrijgegeven e-mails tussen de politie van New York en het bedrijf. De documenten, verkregen door verzoeken om vrijheid van informatie door de Legal Aid Society en journalist Rachel Richards, volgen een vriendschappelijke relatie van twee jaar tussen de afdeling en het technologiebedrijf gedurende welke tijd de NYPD de technologie vele malen heeft getest en gezichtsherkenning gebruikt in live onderzoeken .

Verwant verhaal

Er is een crisis van gezichtsherkenning en politie in de VS De diep gebrekkige technologie wordt veel gebruikt, grotendeels buiten het publieke oog

De NYPD heeft eerder haar relatie met Clearview AI en het gebruik van de technologie van het bedrijf gebagatelliseerd. Maar uit de e-mails blijkt dat de relatie tussen hen goed ontwikkeld was, waarbij een groot aantal politieagenten een groot aantal zoekopdrachten met de app uitvoerde en deze in echte onderzoeken gebruikten. De NYPD heeft voer meer dan 5.100 zoekopdrachten uit met Clearview AI.

Dit is met name problematisch omdat het beleid van de NYPD de NYPD beperkt in het creëren van een onbewaakte opslagplaats van foto's waarnaar gezichtsherkenningssystemen kunnen verwijzen, en het gebruik van gezichtsherkenningstechnologie beperkt tot een specifiek team. Beide beleidsregels lijken te zijn omzeild met Clearview AI. Uit de e-mails blijkt dat de NYPD veel agenten buiten het gezichtsherkenningsteam toegang heeft gegeven tot het systeem, dat afhankelijk is van een enorme bibliotheek met openbare foto's van sociale media. De e-mails laten ook zien hoe NYPD-agenten de app op hun persoonlijke apparaten hebben gedownload, in strijd met het vermelde beleid, en de krachtige en bevooroordeeld technologie op een informele manier.

Clearview AI beheert een krachtig neuraal netwerk dat foto's van gezichten verwerkt en hun nauwkeurige metingen en symmetrie vergelijkt met een enorme database met afbeeldingen om mogelijke overeenkomsten te suggereren. Het is onduidelijk hoe nauwkeurig de technologie is, maar het wordt veel gebruikt door politiediensten en andere overheidsinstanties. Clearview AI is geweest zwaar bekritiseerd voor zijn gebruik van persoonlijk identificeerbare informatie, zijn beslissing om de privacy van mensen te schenden door foto's van internet te schrapen zonder hun toestemming, en zijn keuze van klanten.

De e-mails beslaan een periode van oktober 2018 tot februari 2020, te beginnen wanneer: Clearview AI-CEO Hoan Ton-That werd voorgesteld aan NYPD-plaatsvervangend inspecteur Chris Flanagan. Na de eerste ontmoetingen sloot Clearview AI in december 2018 een leverancierscontract af met NYPD op proefbasis dat duurde tot maart daaropvolgend.

Uit de documenten blijkt dat veel personen bij de NYPD tijdens en na deze tijd toegang hadden tot Clearview, van afdelingsleiders tot junior officieren. Tijdens de uitwisselingen moedigde Clearview AI meer gebruik van zijn diensten aan. (Kijk of je 100 zoekopdrachten kunt bereiken, drongen de officieren erop aan.) Uit de e-mails blijkt dat proefaccounts voor de NYPD pas in februari 2020 zijn aangemaakt, bijna een jaar nadat de proefperiode zou zijn geëindigd.

We hebben de e-mails bekeken en met topsurveillance- en juridische experts gesproken over de inhoud ervan. Dit is wat u moet weten.

NYPD loog over de omvang van haar relatie met Clearview AI en het gebruik van haar gezichtsherkenningstechnologie

De NYPD vertelde BuzzFeed Nieuws en de New York Post eerder dat het geen institutionele relatie had met Clearview AI, formeel of informeel. De afdeling maakte wel bekend dat het Clearview AI had uitgeprobeerd, maar uit de e-mails blijkt dat de technologie gedurende een langere periode is gebruikt door een groot aantal mensen die een groot aantal zoekopdrachten hebben uitgevoerd in echte onderzoeken.

In een gesprek zei een detective die in de gezichtsherkenningseenheid van de afdeling werkte: de app werkt uitstekend. In een andere zei een officier van de identiteitsdiefstalploeg van de NYPD dat we positieve resultaten blijven ontvangen en zijn doorgegaan met arrestaties. (We hebben de volledige namen en e-mailadressen van deze afbeeldingen verwijderd; andere persoonlijke gegevens zijn in de originele documenten bewerkt.)

Albert Fox Cahn, uitvoerend directeur van het Surveillance Technology Oversight Project, een non-profitorganisatie die pleit voor de afschaffing van het gebruik van gezichtsherkenningstechnologie door de politie in New York City, zegt dat de gegevens duidelijk in tegenspraak zijn met de eerdere openbare verklaringen van de NYPD over het gebruik van Clearview AI.

Hier hebben we een patroon van officieren die Clearview-accounts krijgen - niet voor weken of maanden, maar in de loop van de jaren, zegt hij. We hebben bewijs van ontmoetingen met functionarissen op het hoogste niveau van de NYPD, inclusief de sectie voor gezichtsherkenning. Dit zijn niet een paar officieren die besluiten te vertrekken en een proefaccount te krijgen. Dit was een systematische toepassing van de gezichtsherkenningstechnologie van Clearview om zich op New Yorkers te richten.

Verder, NYPD's beschrijving van het gebruik van gezichtsherkenning , die vereist is op grond van een onlangs aangenomen wet, zegt dat onderzoekers sondebeelden die tijdens onderzoeken zijn verkregen, vergelijken met een gecontroleerde en beperkte groep foto's die al in het bezit zijn van de NYPD. Clearview AI staat bekend om zijn database met meer dan 3 miljard foto's van het web geschraapt.

NYPD werkt nauw samen met immigratiehandhaving en agenten verwezen Clearview AI naar ICE

De documenten bevatten meerdere e-mails van de NYPD die verwijzingen lijken te zijn om Clearview te helpen bij de verkoop van zijn technologie aan het Department of Homeland Security. Twee politieagenten hadden zowel NYPD- als Homeland Security-affiliaties in hun e-mailhandtekening, terwijl een andere officier identificeerde als lid van een Homeland Security-taskforce.

Er lijkt gewoon zoveel communicatie te zijn, misschien het delen van gegevens, en zoveel ongereguleerd gebruik van technologie.

New York is aangewezen als een toevluchtsoord, wat betekent dat de lokale wetshandhaving de samenwerking met federale immigratiediensten beperkt. In feite de gezichtsherkenning van NYPD beleidsverklaring zegt dat er geen informatie wordt gedeeld ter bevordering van de immigratiehandhaving en dat er geen toegang zal worden verleend aan andere instanties om de immigratiehandhaving te bevorderen.

Ik denk dat een van de grote afhaalpunten is hoe wetteloos en ongereguleerd de interacties en het bewakings- en gegevensuitwisselingslandschap is tussen de lokale politie, federale wetshandhaving en immigratiehandhaving, zegt Matthew Guariglia, een analist bij de Electronic Frontier Foundation. Er lijkt gewoon zoveel communicatie te zijn, misschien het delen van gegevens, en zoveel ongereguleerd gebruik van technologie.

Cahn zegt dat de e-mails onmiddellijk alarmbellen doen rinkelen, vooral omdat een groot deel van de informatie over wetshandhaving via centrale systemen die bekend staan ​​als fusiecentra, loopt.

Je kunt beweren dat je een toevluchtsoord bent zoveel je wilt, maar zolang je deze DHS-taskforces blijft hebben, zolang je informatiefusiecentra blijft hebben die realtime gegevensuitwisseling met DHS mogelijk maken, maak je die belofte in een leugen.

Veel agenten vroegen om Clearview AI te gebruiken op hun persoonlijke apparaten of via hun persoonlijke e-mailaccounts

Ten minste vier agenten vroegen om toegang tot de app van Clearview op hun persoonlijke apparaten of via persoonlijke e-mails. Afdelingsapparaten zijn streng gereguleerd en het kan moeilijk zijn om applicaties te downloaden naar officiële mobiele telefoons van de NYPD. Sommige officieren kozen er duidelijk voor om hun persoonlijke apparaten te gebruiken wanneer de afdelingstelefoons te restrictief waren.

Clearview heeft op deze e-mail gereageerd. Hallo William, je zou binnenkort een setup-e-mail in je inbox moeten hebben.

Jonathan McCoy is een digitaal forensisch advocaat bij Legal Aid Society en nam deel aan het indienen van het verzoek om vrijheid van informatie. Hij vond het gebruik van persoonlijke apparaten bijzonder lastig: mijn conclusie is dat ze actief probeerden het beleid en de procedures van de NYPD te omzeilen waarin staat dat als je gezichtsherkenningstechnologie gaat gebruiken, je door FIS moet gaan (gedeelte voor gezichtsherkenning) en ze moeten de technologie gebruiken die al is goedgekeurd door de NYPD-groothandel. NYPD heeft al een gezichtsherkenningssysteem, geleverd door een bedrijf genaamd Dataworks.

Verwant verhaal

De activist die racistische politie-algoritmen ontmantelt Hamid Khan wint zijn strijd voor de afschaffing van bewakingstechnologie die wordt gebruikt door de LAPD

Guariglia zegt dat het wijst op een onvoorzichtige houding van zowel de NYPD als Clearview AI. Ik zou geschokt zijn om te horen dat politieagenten Clearview op hun persoonlijke apparaten gebruikten om mensen te identificeren die vervolgens hebben bijgedragen aan arrestaties of officiële NYPD-onderzoeken, zegt hij.

De zorgen die deze e-mails oproepen, zijn niet alleen theoretisch: ze kunnen de politie in staat stellen om voor de rechtbank te worden aangevochten en zelfs zaken te laten vernietigen wegens niet-naleving van de procedure. McCoy zegt dat de Legal Aid Society van plan is het bewijs uit de e-mails te gebruiken om cliënten te verdedigen die zijn gearresteerd als resultaat van een onderzoek waarbij gezichtsherkenning werd gebruikt.

We zouden hopelijk een basis hebben om naar de rechtbank te stappen en te zeggen dat elke veroordeling die werd verkregen door het gebruik van de software, werd gedaan op een manier die niet in overeenstemming was met het beleid en de procedures van de NYPD, zegt hij. Aangezien Clearview een niet-geteste en onbetrouwbare technologie is, zouden we kunnen stellen dat het gebruik van een dergelijke technologie de rechten van onze klant schaadt.

zich verstoppen