Burgers zetten gezichtsherkenning in op niet-geïdentificeerde politie

De nieuwe serie van onze AI-podcast, In Machines We Trust, draait helemaal om gezichtsherkenning. In deel één van de serie onderzoeken Jennifer Strong en het team van MIT Technology Review de onverwachte manieren waarop de technologie wordt gebruikt, inclusief hoe deze tegen de politie wordt ingeschakeld.

We ontmoeten:

• Christopher Howell, datawetenschapper en demonstrant.

Credits:

Deze aflevering werd gerapporteerd en geproduceerd door Jennifer Strong, Tate Ryan-Mosley en Emma Cillekens, en Karen Hao. We worden geredigeerd door Michael Reilly en Gideon Lichfield.

Vertaling:

[Advertentie]

[TR-ID]

Krachtig: Er zijn een paar dingen gebeurd sinds we het voor het laatst over gezichtsherkenning hadden. We hebben meer plaatsen zien verhuizen om het gebruik ervan te beperken, terwijl scholen en andere openbare gebouwen Face ID zijn gaan gebruiken als onderdeel van hun plannen voor covid-preventie. We gebruiken het zelfs op dieren en niet alleen op gezichten die op de onze lijken, zoals chimpansees en gorilla's, Chinese technologiebedrijven gebruiken het op varkens en Canadese wetenschappers werken aan het identificeren van walvissen, zelfs grizzlyberen.

Met andere woorden, het aantal manieren waarop we deze technologie kunnen gebruiken explodeert, evenals de zorgen of dat haalbaar is, laat staan ​​een goed idee. En dus breidt het verbod op het gebruik van gezichtsherkenning zich uit, van Portland, Maine tot Portland, Oregon, waar volgend jaar de strengste beperkingen op gezichtsherkenning in het land van kracht worden, waarbij niet alleen het gebruik door de politie, maar ook commerciële ook toepassingen.

wielrenner: Collega's, we zijn hier vanmiddag om twee verordeningen te overwegen die het gebruik van gezichtsherkenningstechnologieën door ons eigen stadsbestuur in Portland en door particuliere entiteiten in de openbare ruimte willen verbieden.

Krachtig: Dat is de burgemeester van Portland, Ted Wheeler, die de gemeenteraadsvergadering opent die deze rekeningen in september heeft aangenomen. Zoals met de meeste dingen tegenwoordig, vonden de openbare opmerkingen en stemming plaats op Zoom.

wielrenner: Portland is verre van een anti-technologiestad, en dat wil ik heel duidelijk maken. We zijn niet anti-technologie met een breed scala aan lokale en nationale technologiebedrijven. We zijn een van de snelst groeiende tech hubs aan de westkust.

Krachtig: De volgende uren kwamen advocaten, software-engineers, bezorgde burgers en bedrijfsleiders aan het woord. Toen, net voordat de stemming plaatsvond. Een laatste persoon, een lokale datawetenschapper, stak zijn virtuele hand op om een ​​vraag te stellen.

wielrenner: Christopher Howell... last but not least, welkom.

Howell: Ik zou graag mijn voorwaardelijke steun willen betuigen aan deze verordening, maar ik heb mijn bedenkingen.

Krachtig: Dat komt omdat hij iets bouwt dat gezichtsherkenning op een minder dan conventionele manier gebruikt.

Howell: Ik ben betrokken bij het ontwikkelen van gezichtsherkenning om in feite te gebruiken op politieagenten in Portland, omdat ze zich niet voor het publiek identificeren en misdaden plegen. Zou dit illegaal worden als u deze verordening goedkeurt?

[Muziek]

Krachtig: Ik ben Jennifer Strong en de komende weken gaan we nog een diepe duik maken in de opkomst van gezichtsherkenning. In deze nieuwste miniserie zullen we onderzoeken hoe het wordt gebruikt in de sport, zowel door atleten als door fans, het gebruik in winkels en zelfs hoe het wordt gebruikt om daklozen te helpen. Maar eerst beginnen we met een blik op hoe het wordt teruggedraaid op de politie.

[Toon ID]

Krachtig: De anonimiteit van politie en andere gezagsdragers is doordrenkt van een zeer gecompliceerde geschiedenis. Er is een delicaat evenwicht tussen privacy en aansprakelijkheid op beide partijen voor demonstranten en voor politie.

[Geluid van rellen in Chicago.]

Krachtig: De Chicago Riots van 1968 onderbraken de tv's van Amerikanen in het hele land terwijl ze afstemden op de Democratic National Convention, die dat jaar in Chicago werd gehouden.

[Geluid van rellen in Chicago.]

Krachtig: Demonstranten demonstreerden tegen de oorlog in Vietnam en tegen de Democratische Partij. Na een botsing met de politie in Grant Park, marcheerden demonstranten over Michigan Avenue naar het hotel waar veel van de congresafgevaardigden verbleven. 17 minuten lang keek Amerika live toe hoe de Nationale Garde van Illinois traangas afvuurde... terwijl de politie de demonstranten versloeg.

[Geluid van rellen in Chicago. 'De hele wereld kijkt']

Krachtig: De politie droeg geen naamplaatjes en dit is eigenlijk vrij gebruikelijk wanneer de politie met demonstranten omgaat. Soms is het legaal, soms is het illegaal en soms is het zelfs verplicht in het belang van de veiligheid, zoals deze zomer in Buffalo, New York.

Verslaggever: De politiecommissaris van Buffalo zegt dat het zijn beslissing was om agenten hun badgenummer te laten dragen en niet hun naam op hun uniform.

Commissaris: Er was een toenemende bezorgdheid over intimidatie bij agenten en hun familie. Om agenten in staat te stellen zonder angst hun werk te doen, heb ik destijds de beslissing genomen.

Krachtig: Maar als het gebeurt, duwen burgers en activisten terug. Velen beweren dat dit de politie nog meer macht geeft dan ze al hebben ... omdat het bijna onmogelijk wordt om ze verantwoordelijk te houden.

Geïnterviewde: We hebben onze raad nodig om op te staan ​​en te spreken voor de 255.000 mensen die u vertegenwoordigt en aanmoedigen en eisen dat deze politie het beleid terug verandert in plaats van alleen te denken aan de ongeveer tien agenten die werden lastiggevallen, die beschermd zouden kunnen worden onder de huidige bestaande wet .

Krachtig: Maar ruim voor de gebeurtenissen van deze zomer hebben mensen geprobeerd om niet-geïdentificeerde politieagenten te identificeren. Ze hebben foto's van protesten gebruikt, speuren op sociale media, crowdsourcing via internet en zelfs hun toevlucht genomen tot het stelen van persoonlijke informatie. Zoals in het geval van een hackerscollectief - Anonymous genaamd. Het staat erom bekend dat het zich aansluit bij de Occupy Wall Street-protesten en de website van de New York Stock Exchange even offline haalt. Diezelfde groep lekte later privé-informatie die het had gestolen van politie- en overheidswebsites, waaronder de thuisadressen van politieagenten.

Prank-oproep: U hebt het Sheriff's Office van Baldwin County bereikt... [ring]

Krachtig: In deze prank call claimen ze de eer voor de hack.

[Fragmenten uit de prank call]

Krachtig: Het ontmaskeren van degenen die geweld uitoefenen over anderen is niet uniek voor de VS. In 2014, tijdens de annexatie van de Krim door Rusland, herinnert u zich misschien dat soldaten zonder badge op hun groene uniform de controle overnamen. Destijds ontkenden topfunctionarissen, waaronder president Vladimir Poetin, herhaaldelijk dat die troepen Russisch waren.

Beetje : Er zijn helemaal geen troepen. Geen Russische troepen in ieder geval.

Krachtig: Dit is de Russische ambassadeur bij de EU die met verslaggevers spreekt.

Ambassadeur: De Verenigde Staten, die in de traditie staan ​​om zich met andere landen te bemoeien en troepen naar het buitenland te sturen, handelen volgens hun eigen mentaliteit... zou ik zeggen. Maar dit is geen geval van Russische inmenging.

Krachtig: Maar het was. Door foto's te matchen, mogelijk met behulp van gezichtsherkenning, stelde de Oekraïense regering vast dat de troepen in feite verbonden waren met het Russische leger. En als bewijs hebben ze foto's vrijgegeven. Later gaf Poetin ook toe dat de troepen inderdaad Russisch waren.

Putin vertaling: Natuurlijk steunden de Russische militairen de Krim-zelfverdedigingstroepen. Ze handelden civiel, zoals ik al zei, maar beslist en professioneel.

[Muziek]

Krachtig: Nu proberen demonstranten steeds vaker Face ID terug te keren naar de politie - om agenten te identificeren die buitensporig geweld gebruiken. Ook in Hong Kong, waar vorig jaar dramatische beelden van botsingen tussen demonstranten en politie de nieuwsfeeds domineerden, waarin de politie met scherpe kogels afvuurde en demonstranten agenten aanvielen. Dit is de New York Times-verslaggever Paul Mozur die spreekt op de openbare televisie.

Mozur: Terwijl de protesten doorgingen en de politie en Hong Kongers week na week elkaar blijven bestrijden, is het gezicht bewapend geworden en wordt de identiteit zelf op een bepaalde manier bewapend. Weet je, demonstranten zullen uitgaan en de politie zal proberen hun beelden op video vast te leggen en dan terug te gaan en ze te identificeren via alle sociale media en online materialen die er zijn en dan omgekeerd. We zagen dat de politie hun badges afnam en dus doen demonstranten nu hetzelfde bij de politie, waar ze proberen terug te gaan en sociale media te gebruiken om erachter te komen welke politie welke handeling uitvoert. Een demonstrant in het bijzonder, deze man, Colin Cheung, die we vonden, creëerde een gezichtsherkenningstool om te proberen de politie te identificeren ... en hij heeft het product niet echt vrijgegeven, maar hij zegt dat de politie het op hem had gericht.

Krachtig: En Cheung werd gearresteerd kort nadat hij over de tool op Facebook had gepost... maar soortgelijke inspanningen zijn aan de gang op andere plaatsen, waaronder Portland, Oregon.

Howell: Ik gebruik exact dezelfde technologie die ze op ons gebruiken. En het is niet zo dat ik mensen probeer te doxen. Ik bedoel, dit is voor officieren die in wezen de wet overtreden in termen van hun gebruik van geweld.

Krachtig: Christopher Howell is een datawetenschapper en demonstrant.

Howell: En ik wilde gewoon op de plaat komen. Hé, er is een andere manier waarop we dit kunnen gebruiken. // En het gaat er eigenlijk meer om, weet je, de druk op hen houden om zichzelf te identificeren, in plaats van dat wij het moeten doen.

Krachtig: Zijn getuigenis voor de gemeenteraad van Portland over deze tool waaraan hij werkt, leidde ertoe dat zijn project werd behandeld door The New York Times. Sindsdien heeft hij behoorlijk wat aandacht gekregen, net als de reactie van de burgemeester van Portland, die het project griezelig noemde.

Howell: Het is griezelig om ze nacht na nacht mensen te traangas te laten gaan // en ik, dat was echt, voor mij was het gewoon een soort van geestverruimend moment van, het is griezelig dat deze jongens hun naam niet hebben. Weet je, dat iemand zich gewoon kan verkleden als een politieagent weet je [lacht]

Krachtig: Hij zegt dat hij het project gedeeltelijk is begonnen om te zien hoe het zou werken.

Howell: Ik bedoel, er is een duidelijke technologische nieuwsgierigheid daar... en dat soort, iets wat ik kan doen als het laat in de nacht is en het is frustrerend om dit spul te zien, het nieuws of je gaat op Twitter en ziet de video's van mensen, iedereen van de protesten en oké, wel, wat kan ik doen? …en uiteindelijk zou ik willen dat het niet nodig is. Ik vind dat ze hun naam in hoge letters moeten dragen, zodat we geen gezichtsherkenning bij agenten hoeven te gebruiken om erachter te komen wie ze zijn.

Krachtig: In staat zijn om een ​​officier te identificeren, gaat niet alleen over weten of iemand er echt een is... Het is buitengewoon moeilijk om een ​​klacht in te dienen tegen iemand zonder te weten wie die persoon is.

Howell: Een van de redenen waarom ik hiermee begonnen ben, was omdat je in rechtszaken niet zo kunt noemen als de agent die me duwde. Je moet weten wie het is. Ze zullen gewoon zeggen, nou, we weten niet wie het was. Dus je kunt niemand aanklagen en als je probeert om gegevens te krijgen over wat bepaalde officieren hebben gedaan, laten ze je er niet naar gaan vissen. // Je moet het weten, als je me een foto gaf van, weet je, hier is deze agent die iemand slaat met een wapenstok die ik wil, en we gaan uitzoeken, je kunt zijn gezicht zien. Dus we gaan uitzoeken wie het is, hoe doen we dat? En aanvankelijk dacht ik meer aan een omgekeerde afbeeldingszoekopdracht in een database. Ik verzamel gewoon alle foto's die ik kan, en we kunnen ze aan elkaar koppelen zodat we kunnen zeggen dat dit allemaal dezelfde persoon is. En toen realiseerde ik me dat ik het beter kon doen dan dat.

Krachtig: Hij realiseerde zich dat hij een gezichtsherkenningstool kon bouwen met afbeeldingen van de agenten van internet.

Howell: Dus ik begon naar hun foto's te kijken waar ze zijn geïdentificeerd of nieuws, weet je, verder teruggaand en soortgelijke nieuwsartikelen krijgen.

Krachtig: Het project is technisch eenvoudiger dan het bouwen van een systeem dat bedoeld is om iemand te identificeren.

Howell: We weten dat wie de politie is, weet je, die zijn er niet, er zouden geen mensen in oproerkleding moeten zijn die geen politieagent zijn. Dus als je al hun foto's kunt krijgen en dat is de echte uitdaging, maar dan zou je een minder moeilijk wiskundig probleem in die zin kunnen hebben om te identificeren, oké, we weten dat deze persoon niet in deze set zit. Laten we eens kijken welke van hen dat zijn...

Krachtig: Hij zegt dat hij tot nu toe duizenden foto's heeft verzameld ... meestal handmatig van Twitter en nieuwsartikelen, gemiddeld 15 tot 20 of zo voor elke officier die hij heeft geïdentificeerd.

Howell: Veel van de eerste beelden waren afkomstig van Twitter. Veel ervan was ik die in nieuwsartikelen ging. // Ik bedoel, het verkeersongeval, een daarvan is, weet je, het nieuwsbericht is zo'n goed voorbeeld. Want ik heb er een heleboel gevonden. Of zoals een gemeenschapsbarbecue en er zijn geüniformeerde agenten daar en het noemt ze.

Krachtig: Het is niet precies dezelfde schaal als de gezichtsherkenningssystemen die door de politie worden gebruikt...

Howell : Ik doe dit nu allemaal op een Python-script - weet je, het is allemaal lokaal op mijn laptop.

Krachtig: ...die worden meestal getraind op fotosets van miljoenen of miljarden.

Howell: Omdat ik denk dat de nauwkeurigheid belangrijk is en, uh, en het aantal afbeeldingen klein genoeg is dat als ik zou proberen mijn gezicht erin te stoppen, ik niet nog een Chris Howell wil hebben.

Krachtig: Maar het zijn net genoeg afbeeldingen dat het lijkt te lukken. Hij zegt dat zijn tool al is gebruikt om de identiteit van een officier te bevestigen in een zaak die naar de rechtbank gaat.

Howell: Iemand bracht me een foto die ik niet had gevonden en zei, help me, je weet wel, gebruik je systeem en vertel me wat het zegt. En ze wist al wie ze dacht dat het was, maar ze vertelde het me niet. En dan was het topresultaat degene die verwacht werd.

Krachtig: Wat betreft waar dit naartoe gaat, dat is een gok, hoewel hij zich een dag kan voorstellen waarop het in samenwerking met de stad zou kunnen worden gebruikt.

Howell: Ik zou een toekomst kunnen zien, misschien over jaren, wanneer de dingen een beetje anders zijn, waarin de stad zoiets beschikbaar maakt en het zelf host en ze een heleboel foto's laat maken, zodat we een goed getraind ding kunnen hebben. Dus als een soort burgerfeedback-ding. En, en het hoeven niet per se allemaal negatieve dingen te zijn, maar op een manier dat het ook voor klachten kan worden gebruikt. Ik bedoel, een deel van mij denkt dat het zin heeft dat ze samenwerken met de overheidsinstanties zelf om te zeggen: Hé, we willen verantwoordelijk zijn. Ik denk niet dat dat heel realistisch is anno 2020, maar ik denk het wel, het kan niet ver meer zijn! [lachen]

Krachtig: Iets wat hij niet wil is om het open source te maken.

Howell: Ik denk niet dat het voor iemand een goed idee is om het op een website te laten lijken op het publiek. Denk dat dat is, het is vragen om dingen die fout gaan die verder gaan dan de echt voor de hand liggende dingen die je zou kunnen hebben, mensen, je weet wel, dingen faken of opzettelijk misleidende foto's plaatsen ...

[Muziek]

Krachtig: Portland's verbod op gezichts-ID wordt in januari van kracht, maar het project van Howell? Het zal niet worden beïnvloed. Openbare scholen, religieuze instellingen, zelfs hoe gezichtsherkenning wordt gebruikt op de luchthaven, zoals de manier waarop luchtvaartmaatschappijen zoals Delta hun passagiers instappen. Ook dat wordt niet beïnvloed. Lokale overheidsinstanties kunnen er geen gebruik van maken. En het zal niet worden toegestaan ​​in de meeste openbare ruimtes of privéruimten die open zijn voor het publiek, zoals een winkelcentrum. De lokale politie mag de technologie ook niet gebruiken, hoewel mensen in hun privé-huizen, zoals Christopher Howell, dat wel zullen zijn. De verboden zijn ook niet van toepassing op wetshandhaving op staats- of federaal niveau.

In zekere zin wordt het gebruik van deze bewakingstechnologie een soort wereldwijde wapenwedloop tussen het publiek en gezagsdragers, beide in de hoop de dekmantel van anonimiteit af te pellen om goed gedrag aan te moedigen. Het is moeilijk om te zien wie de winnaar is, maar de verliezer is zeker privacy.

In de volgende aflevering…

Uittreksel : Het is niet op de hoogte van een trauma als iemand een faciliteit binnenloopt en zegt: ja, je kunt absoluut binnenkomen, maar laat me gewoon je vingerafdrukken nemen.

Krachtig: We kijken naar de overstap naar het gebruik van gezichtsherkenning in volkshuisvesting en daklozenopvang.

Uittreksel : Gezichtsherkenning is emotioneel vriendelijker omdat het passief is, het niet aanraakt en je het sneller kunt vastleggen en er is geen risico van overdracht.

Krachtig: Deze aflevering is gerapporteerd en geproduceerd door mij, Tate Ryan-Mosley, Karen Hao en Emma Cillekens. We worden geredigeerd door Michael Reilly en Gideon Lichfield.

Bedankt voor het luisteren, ik ben Jennifer Strong.

[TR-ID]

zich verstoppen