211service.com
Wat er in Vegas gebeurt... wordt vastgelegd op camera
Het gebruik van gezichtsherkenning door de politie heeft veel aandacht gekregen. In deel drie van onze vierdelige serie over gezichtsherkenning neemt gastheer Jennifer Strong je mee naar Sin City, dat eigenlijk een van Amerika's meest dichtgeknoopte beleidsmaatregelen heeft over wanneer politie je gelijkenis kan vastleggen. Ze komt er ook achter waarom beroemdheden als Woody Harrelson een hoofdrol spelen in gesprekken over deze technologie.
We ontmoeten:
- Albert Fox Cahn, oprichter van Surveillance Technology Oversight Project (S.T.O.P.)
- Phil Mayor, senior stafadvocaat van ACLU Michigan
- Kapitein Dori Koren, politie van Las Vegas
- Assistent-chef Armando Aguilar, politie van Miami
Credits:
Deze aflevering werd gerapporteerd en geproduceerd door Jennifer Strong, Tate Ryan-Mosley en Emma Cillekens. We hadden hulp van Benji Rosen en Karen Hao. We worden geredigeerd door Michael Reilly en Gideon Lichfield. Onze technisch directeur is Jacob Gorski.
Transcript van de volledige aflevering:
Jennifer Strong : Oké, dus we gaan een ritje maken op een van de drukste bruggen van New York City, de RFK. En de reden dat we dit doen is omdat de transitautoriteit, de MTA, live gezichtsherkenning heeft geïnstalleerd. Eigenlijk gaan we er nu onderdoor. Zie je dat de camera recht op onze gezichten is gericht? Ze hebben dit nu door de hele stad verspreid. Het zit in een aantal bruggen en tunnels, maar de reden dat we hier zijn, is omdat het hier allemaal begon en wat het in theorie doet, wat het zou moeten doen is onze gezichten door onze voorruiten lezen. En het gekke hieraan is, nou, het gekke is dat niemand wist dat er een test was, maar wat er ook gek aan is, is toen de resultaten van die test vorig jaar naar de pers lekten. Wil je raden hoeveel gezichten er zijn vastgelegd tijdens de testperiode? Wat denk je? Dit is trouwens Emma Cillekens... mijn producer.
Emma Cillekens : Ik weet niet zoals duizenden, misschien, misschien miljoenen? Dit is New York City, misschien miljoenen.
Jennifer Strong : Nee. Eh, die hebben ze niet. Nul procent. Maar ze gingen vooruit en ze gingen er toch mee door.
Andrew Cuomo : De girale tolheffing, die echt niet over tol gaat. Het gaat er echt om een elektronisch systeem in te voeren dat we nog nooit eerder hebben gehad.
Jennifer Strong : Dat is de New Yorkse gouverneur Andrew Cuomo die spreekt op een evenement in 2018.
Andrew Cuomo : Wat het doet, is dat het in een systeem wordt geplaatst dat elk kenteken leest dat door die kruising komt en zich binnen vijf seconden meldt bij de politieauto die daar staat.
Jennifer Strong : Maar dit is niet een of ander technisch evenement, en het gaat ook niet over politiewerk. Het viert het einde van reparaties aan een tunnel die Brooklyn en Manhattan met elkaar verbindt. Zie je, de metro's en tunnels van de stad zijn overspoeld met zout water in de nasleep van orkaan Sandy. Alle elektronica en bedrading moest worden vervangen en het gaf hen de kans om iets nieuws te proberen.
Andrew Cuomo : We gaan nu over op gezichtsherkenningstechnologie, die je naar een heel nieuw niveau brengt waar het het gezicht van de persoon in de auto kan zien en dat kan vergelijken met databases.
Jennifer Strong : En ze experimenteren met iets dat nog geavanceerder is dan het lezen van gezichten of kentekenplaten. Ze proberen de oren van mensen te lezen.
Andrew Cuomo : Omdat mensen vaak hun hoofd draaien als ze een beveiligingscamera zien. Dus ze experimenteren nu met technologie die een persoon gewoon op het oor identificeert, geloof het of niet.
Jennifer Strong : Ik ben Jennifer Strong en dit is deel drie van onze serie over politie en gezichtsherkenning. In deze aflevering bekijken we hoe de technologie in verschillende steden wordt gebruikt en ontmoeten we enkele politiechefs die helpen bij het nemen van die beslissingen.
[Toon Inleiding]
Jennifer Strong : Wegen zijn niet de enige plaatsen waar de doorvoerautoriteit van New York City experimenteert met gezichtsherkenning, maar zonder regels voor hoe het wordt gebruikt, hebben we de neiging om er achteraf en vaak per ongeluk achter te komen, zoals wanneer een verslaggever van de New York Times belde op Twitter iets dat ze in de metro had gezien.
Albert Fox Cahn : Dit was dus een monitor die was opgesteld in het metrostation Time Square met deze gele vakken rond de gezichten van mensen, wat aangaf dat het een minimale gezichtsherkenningstechnologie gebruikte. Als het geen gezichtsbehandeling is.
Jennifer Strong : Albert Fox Cahn is de oprichter van het Surveillance Technology Oversight Project. Ook wel bekend als STOP. Hij nam contact op met het transportbedrijf, de MTA, na het zien van die tweet, maar hij zegt dat ze niet veel antwoord gaven.
Albert Fox Cahn : Dus, we hebben ze aangeklaagd. En onlangs kregen we een gunstige beslissing van een rechter in de staat New York die zei dat de MTA ten onrechte informatie over die monitoren achterhield zonder ons enige uitleg te geven over hoe ze werden gebruikt, of er gezichtsherkenning in het spel was en wat het doel was om ze op te zetten in de eerste plaats was de rechtvaardiging van de MTA voor het gebruik van deze monitoren 'maak je geen zorgen'. Dit zijn geen gezichtsherkenning. We wilden het publiek bang maken door te denken dat we gezichtsherkenning hadden, zodat ze hun tarief niet zouden overslaan.
Jennifer Strong : Maar bangmakerij is niet de enige waar hij zich zorgen over maakt. Hij maakt al een aantal jaren ruzie met de NYPD over hoe ze deze technologie gebruiken.
Albert Fox Cahn : Je hebt deze ongelooflijk krachtige technologie, maar deze is al gevoelig voor bepaalde soorten fouten en bepaalde soorten vooroordelen. En de NYPD gaat door en gebruikt op een manier die dat risico alleen maar groter maakt. Je laat ze dubbelgangersfoto's invoeren en we hebben geen idee hoe vaak dit is gedaan.
Jennifer Strong : Er is zelfs een naam voor, de beroemdheidsvergelijking. Een paar jaar geleden waren onderzoekers op zoek naar een verdachte die op tape was betrapt bij het stelen van bier uit een drogisterij in New York City. De camera legde zijn gezicht vast, maar niet goed genoeg voor het gezichtsherkenningssysteem om lucifers te retourneren. Een rechercheur merkte op dat de verdachte een beetje op de acteur, Woody Harrelson leek, en nadat ze foto's door het systeem hadden gehaald, vonden ze een match. We weten niet hoe vaak dit gebeurt, maar we weten dat het meer dan eens is. In een ander voorbeeld van de NYPD vervangt een speler van New York Knicks de verdachte.
Albert Fox Cahn : Dus als je de foto van een beroemdheid voor mij gebruikt, dat wil zeggen, het is erg problematisch dat je iemands afbeelding voor dit soort doeleinden toe-eigent. Er is ook geen bewijs dat dit klopt.
Jennifer Strong : Een andere praktijk die hij verontrustend vindt, is het handmatig controleren van Photoshop-afbeeldingen. Je ziet gezichtsherkenning vaak niet herkennen van gezichten met gesloten ogen. Dus sommige politiediensten zullen open ogen op die foto's plakken om resultaten te krijgen. Ze veranderen hun foto's ook op andere manieren.
Albert Fox Cahn : Als de mond open is, Photoshop je ze dicht. Als een deel van het gezicht wordt verduisterd, zie je gevallen waarin ze op Google-afbeeldingen gaan en kopiëren en plakken als een deel van een andere afbeelding om te proberen een compositie te maken die het gezichtsherkenningsalgoritme identificeert als een levensvatbaar menselijk gezicht. Want hoewel deze tools ongelooflijk krachtig kunnen zijn, zijn ze ook zo kwetsbaar en zelfs één oog dicht kan genoeg zijn om ervoor te zorgen dat een gezichtsherkenningsalgoritme geen menselijk gezicht ziet dat het kan evenaren.
Jennifer Strong : Bovendien weten we niet eens welk gereedschap de politie op sommige plaatsen heeft, waaronder in New York.
Albert Fox Cahn : Maar zelfs onze gekozen functionarissen, onze gemeenteraad weten niet welke instrumenten ze gebruiken. En het is een bedreiging voor de democratie zelf als je de politie laat opereren zonder enig toezicht, maar het maakt het ook onmogelijk om het soort publieke pushback te krijgen dat we nodig hebben om deze tools te verbieden als we niet weten dat ze worden gebruikt in de eerste plaats.
Jennifer Strong : Maar dit is aan het veranderen. Deze zomer heeft de stad de Public Oversight of Surveillance Technology Act of de POST Act aangenomen. Het vereist dat de politie basisinformatie vrijgeeft over welke bewakingstechnologieën ze hebben, hoe ze werken, hoe ze worden gebruikt en hoe vaak het technologie omvat, variërend van mobiele telefoonlocatie, trackers, geautomatiseerde kentekenplaatlezers, lichaamscamera's en monitoringsoftware voor sociale media . En natuurlijk gezichtsherkenning, maar het is geen nieuwe rekening. Het zit al drie jaar stil.
Albert Fox Cahn : Geen van de ingrijpende hervormingen die we in New York hebben gezien, zouden mogelijk zijn geweest zonder de ongelooflijke protesten en opstanden die we in de stad, in het hele land hebben gezien. Het heeft het debat over het politiewerk in deze stad fundamenteel veranderd.
Jennifer Strong : De ACLU is een andere speler die aan dezelfde puzzel werkt. Het is een non-profitorganisatie die zich richt op individuele rechten en vrijheden. Ze zijn uitgesproken over de noodzaak van regulering van gezichtsherkenning, vooral in het geval van Robert Williams, de man die we in aflevering één hebben ontmoet.
Robert Williams : Ik wist niet dat ze gezichtsherkenning of iets dergelijks gebruikten, totdat ik met de rechercheurs sprak die me dat lieten zien, dat ze me daarmee aanhielden.
Melissa Williams : We hadden niet gedacht dat dit kon gebeuren. We dachten niet dat het iets was. Zelfs als ik het nieuws over gezichtsherkenning volg, en het zou zijn hoe het werd gebruikt. Ik had nooit verwacht dat de politie voor onze deur zou verschijnen en mijn man zou arresteren. Dus ik heb gewoon het gevoel dat andere mensen moeten weten dat het kan gebeuren en het is ook gebeurd. En het mag niet gebeuren.
Jennifer Strong : Hij en zijn vrouw, Melissa, die u zojuist hoorde, worden vertegenwoordigd door Phil Mayor, een senior stafadvocaat bij de ACLU van Michigan.
Phil Major : De advocaat van de heer en mevrouw Williams vertelt dat dit de eerste keer in haar jaren dat ze criminele beklaagden vertegenwoordigde, is dat ze erachter kwamen dat haar cliënt was geïdentificeerd door middel van gezichtsherkenningstechnologie. En nogmaals, dat kwam er niet uit in de rechtszaal. Het kwam naar buiten omdat de politie per ongeluk iets zei. Dus ik, ik ben er zo zeker van als ik maar kan zijn dat er mensen zijn die vandaag in de gevangenis zitten, veroordeeld voor misdaden die ze tegen iedereen hebben gesloten omdat een computer dezelfde soort fout maakte als in het geval van meneer Williams.
Jennifer Strong : Maar echte schade kan nog steeds worden aangericht door een valse match die openbaar wordt, zelfs als niemand wordt gearresteerd.
Amara Majed : Op de ochtend van 25 april, midden in het finaleseizoen, werd ik wakker in mijn slaapzaal met 35 gemiste oproepen die me allemaal verwoed informeerden dat ik ten onrechte was geïdentificeerd als een van de terroristen die betrokken waren bij de recente paasaanvallen op mijn geliefde moederland , Sri Lanka,
Jennifer Strong : Amara Majeed was 22 jaar oud en een laatstejaarsstudent aan de Brown University toen haar gezicht verscheen op een poster met de naam van een andere vrouw die van deze aanvallen werd beschuldigd. Ze was ten onrechte geïdentificeerd door een algoritme.
Amara Majed : Er zijn geen woorden om de pijn te beschrijven van het geassocieerd worden met zulke gruwelijke aanvallen op mijn eigen geboorteland en volk. De foto's en berichten die mij ten onrechte impliceren, hebben de gemoedsrust van mijn familie in gevaar gebracht en het leven van onze uitgebreide families in gevaar gebracht.
Jennifer Strong : Sri Lankaanse autoriteiten verontschuldigden zich later voor de fout, maar niet voordat ze werd lastiggevallen, getrolld en bedreigd op sociale media. Het komt hier allemaal op neer. Beleid, transparantie en toezicht op gezichtsherkenning verschilt radicaal van plaats tot plaats. En zelfs als er regels zijn om te voorkomen dat dit soort dingen gebeuren, zijn ze alleen zo goed als ze worden nageleefd. Als we terugkomen, zullen we een aantal politiediensten ontmoeten die daaraan werken.
[Naar]
Jennifer Strong : De NYPD bracht in maart haar gezichtsherkenningsbeleid uit na bijna tien jaar publieke druk, maar andere politiediensten waren veel meer bereid om het publiek hier vanaf het begin bij te betrekken, ook in het land van casino's, Las Vegas, waar bezoekers en degenen die daar wonen zijn geen vreemden om te worden gesurveilleerd vanwege de enorme sommen geld die door die speelkamervloeren gaan. Politiekapitein Dori Koren is de bevelvoerende officier die toezicht houdt op de Las Vegas Strip. En hij vertelt me over een hightech bewakingskamer die klinkt alsof hij in een van die politieshows zou kunnen voorkomen. Vanwege het coronavirus kan ik het commandocentrum niet persoonlijk bezoeken. Dus hij beschrijft het voor mij.
Dori Koren : Het is een beetje Hollywoodachtig en dat hebben we expres gedaan in termen van hoe we het wilden voelen. Dus stel je voor dat je een grote kamer binnenloopt en op de voormuur heb je dit enorme scherm, allerlei camerabeelden zoals een bewakingskamer, maar een beetje meer hightech, een beetje groter, een beetje geavanceerder.
Jennifer Strong : Alles in deze kamer is met elkaar verbonden. Waarschuwingen die worden afgespeeld wanneer audiosensoren een schietpartij detecteren, plus tal van andere dingen die officieren misschien willen weten en al deze identiteitstechnologieën verschijnen op een grote gerasterde kaart. Zo kunnen mensen en gebeurtenissen bijna realtime op een specifieke locatie worden geplaatst. En het spreekt de stad als geheel aan. Las Vegas is een van de baanbrekende slimme steden van het land, met sensoren die zowat overal zijn ingebed, helemaal tot vuilnisbakken die kunnen ruiken wat erin zit. En kapitein Koren zegt dat Face ID een revolutie teweeg heeft gebracht in de politie. In plaats van alleen te reageren op misdaden, zegt hij dat ze voor hen kunnen komen.
Dori Koren : Gezichtsherkenning is voor ons absoluut instrumenteel gebleken, instrumenteel in het redden van levens, instrumenteel in het voorkomen van gewelddadige misdaad.
Jennifer Strong : Hij zegt dat het agenten in staat stelt om in realtime een patroon van criminele activiteiten te identificeren.
Dori Koren : Zoek uit dat er een tweede overval is die net in een supermarkt heeft plaatsgevonden en misschien heeft het signalement van de verdachte die de overval met een vuurwapen heeft gepleegd dezelfde kleur shirt als de overval die net 10 minuten geleden heeft plaatsgevonden. Of hetzelfde voertuig. Of hetzelfde gedrag. En ze proberen deze patronen op te pikken en sturen dat dan in realtime uit, zodat het de derde of vierde overval kan voorkomen.
Jennifer Strong : En ze praten er graag over.
Dori Koren : Wij geloven heilig in transparant zijn. Ik bedoel, wij, aan het eind van de dag, politie dienen de gemeenschap waar ze vandaan komen. Daarom willen we ervoor zorgen dat de innovatieve en geavanceerde dingen die we doen, met name als het gaat om het inzetten van technologieën voor misdaadbestrijding, door de gemeenschap worden geaccepteerd.
Jennifer Strong : Dit soort openheid is zeldzaam en niet alleen bij wetshandhavers. Ook privébedrijven gebruiken gezichtsherkenning, vaak zonder het aan iemand te vertellen. Een recent voorbeeld: gezichtsherkenningscamera's werden volgens Reuters stilletjes geïnstalleerd in honderden Rite Aid-apotheken, grotendeels in de lagere inkomens en niet-blanke delen van Los Angeles en New York. En casino's gebruiken al tientallen jaren een soort gezichtsherkenning voor fraudepreventie, verbeterde beveiliging en zelfs om gokkers aan de tafels te herkennen.
Dori Koren : De particuliere sector heeft enkele van de meer geavanceerde gezichtsherkenningsplatforms aan de rand. Dit zijn platforms die de gezichten van mensen in realtime opnemen en analyseren terwijl ze door het camerabeeld lopen. U wilt niet alleen de particuliere bedrijven, het grote publiek, dat ook al uw criminelen omvat, achterlaten om over de beste en meest geavanceerde technologieën te beschikken en de wetshandhavers achter te laten met archaïsche instrumenten die het werk niet kunnen doen in de 21e eeuw.
Jennifer Strong : Maar dat betekent niet dat hij vindt dat de politie vrij spel moet hebben met alle soorten technologie.
Dori Koren : We gebruiken geen gezichtsherkenning aan de rand, wat in feite betekent dat we de beelden op die camera live opnemen om ieders gezicht te scannen dat over die camerahoek komt. Wij doen dat niet. Ik weet niet of wetshandhavers klaar zijn om dat te gebruiken en ik denk zeker niet dat wetshandhavers dat zouden moeten doen, tenzij hun gemeenschap het gebruik van dat soort zeer geavanceerde technologie ondersteunt.
Jennifer Strong : Ze zoeken ook niet op sociale media-foto's naar verdachten. Ze voeren alleen zoekopdrachten uit op iemand die een misdaad heeft gepleegd, en als ze een match krijgen, beperken ze de waarde ervan. Dat betekent dat je die persoon niet zomaar kunt arresteren op basis van die match. Maar toen ik dit allemaal hoorde, stond ik voor een verrassing toen ik vroeg: verander je de foto's ooit zodat ze beter werken?
Dori Koren : Dat aspect van het aanpassen van de foto's heeft zoveel negatieve aandacht gekregen alsof de politie iets verkeerd doet. En ik denk niet dat het publiek over het algemeen begrijpt waarom je een foto zou veranderen. Dus het antwoord op je vraag is: ja, we veranderen foto's als onderdeel van dat gezichtsherkenningsexamen. We zouden daar in ieder geval voor moeten pleiten, niet tegen.
Jennifer Strong : Hij zegt dat in sommige gevallen, als ze dat niet zouden doen, hun nauwkeurigheid achteruit zou gaan.
Dori Koren : Door de foto te veranderen, door hem iets lichter of donkerder te maken of de hoek te veranderen, hebben we de beste kans om de resultaten te bevestigen, om het algoritme te kunnen testen. We willen niet de verkeerde leiding van de verkeerde persoon volgen. Dus wat we ook moeten doen om de foto aan te passen, om de meest nauwkeurige resultaten te krijgen en zoals ik al zei, voor ons gebruiken we een aantal andere checks and balances om vervolgens te bepalen dat dat echt de waarschijnlijke kandidaat is.
Jennifer Strong : Koren zei verder dat ze de gezichten van andere mensen niet samenvoegen met de invoerfoto, dus niet plakken op open ogen bijvoorbeeld, maar het roept de vraag op, hoe precies meten we de nauwkeurigheid? En wie mag beslissen wanneer en hoe deze praktijk van het aanpassen van foto's fair play is?
Dori Koren : Veiligheid is niet alleen fysieke veiligheid, maar ook met een balans tussen privacy, burgerrechten en burgerlijke vrijheden. En ik denk dat er een juiste balans is. Er is een manier om dat te doen. Maar het gesprek moet open zijn en mensen moeten aan beide kanten open zijn om dat gesprek te hebben. Dus de toekomst van de politie kan veel beter worden met deze technologieën. Dus zolang we het doen, goed.
Jennifer Strong : Het kan niet worden overschat hoeveel zaken als het beleid van de politie, instrumenten, relaties met de gemeenschap en publiek toezicht van plaats tot plaats verschillen. Dus dit evenwicht tussen burgerlijke vrijheden en politie moet worden gevonden, niet alleen in Las Vegas, maar in elke stad in het land. Toch hebben we met andere afdelingen gesproken en zijn er enkele gemeenschappelijke thema's. Armando Aguilar is de assistent-politiechef van Miami en houdt toezicht op de afdeling strafrechtelijk onderzoek.
Armando Aguilar : Dit is een hulpmiddel van onschatbare waarde voor wetshandhaving, maar het is zeker erg gevaarlijk. En als je erover nadenkt, zijn veel van de andere hulpmiddelen die wetshandhavers in verkeerde handen hebben ook erg gevaarlijk. En dus wilden we ervoor zorgen dat we niet alleen de technologie gebruiken, maar dat we de technologie op een verantwoorde manier gebruiken en dat we dat deden op een manier dat de mensen met wie we bedienden zich op hun gemak voelden.
Jennifer Strong : Ze gebruiken sinds 2013 gezichtsherkenning in een of andere vorm.
Armando Aguilar : We zijn begonnen en gebruiken nog steeds een programma genaamd FACES, dat wordt beheerd door het Sheriff's Office van Pinellas County. Het is een van de provincies in Florida en het is een gedeelde database met alle provincies in de staat. En dus zijn we eind 2019 overgestapt op een product met de naam Clearview AI.
Jennifer Strong : FACES loopt van een overheidsdatabase met foto's zoals Las Vegas en Clearview loopt van miljarden foto's die van internet zijn geschraapt.
Armando Aguilar : Technologie gaat sneller dan beleid. Er was een tijd dat de technologie hier in gebruik was zonder een leidend beleid. En toen ik eenmaal in mijn huidige rol stapte, dacht ik dat het heel belangrijk was om die parameters in te stellen en ervoor te zorgen dat we verantwoordelijk waren in ons gebruik van de technologie.
Jennifer Strong : Coronavirus, gooide ze een curveball en zoals al het andere daar, werden gemeentehuizen virtueel, zoals deze op Facebook Live.
Stem van het stadhuis : Welke gegevens verzendt Miami PD of wordt gevolgd door Clearview.?
Jennifer Strong : Bij het opstellen van hun beleid zegt Aguilar dat hij ook de ACLU heeft ontmoet.
Armando Aguilar : Ze begonnen de vergadering respectvol door te zeggen dat we niets anders konden doen dan te zeggen dat we het programma helemaal zouden schrappen. Maar omdat ze wisten dat dat waarschijnlijk niet zou gebeuren, hadden ze ongeveer zeven of acht zeer gegronde zorgen die ze onder onze aandacht brachten. En we waren het eigenlijk met ze eens en we hebben ze allemaal in ons beleid opgenomen.
Jennifer Strong : Ze stellen ook beperkingen aan wie het kan gebruiken.
Armando Aguilar : Dus wat we ook deden, was om ervoor te zorgen dat we de mogelijkheden voor misbruik zouden beperken, we beperkten het aantal gebruikers. Dus iedereen die iemands foto door Clearview of FACES wil laten lopen, moet een verzoek sturen naar ons realtime misdaadcentrum.
Jennifer Strong : Hij zorgde ervoor dat alle Clearview-accounts voor proefversies die aan de politie in Miami werden aangeboden, werden geannuleerd. En hij verkleinde het aantal mensen dat toegang heeft.
Armando Aguilar : Het is een stuk gemakkelijker te controleren wanneer je een dozijn mensen hebt die in dezelfde eenheid werken, in plaats van mensen die verspreid zijn over de volledige 1800 leden tellende politieafdeling die het programma gebruiken.
Jennifer Strong : Met deze nieuwe richtlijnen, zelfs als een foto een match vindt, geeft het geen waarschijnlijke reden om te gaan arresteren.
Armando Aguilar : Dus nu hebben we deze match, maar kunnen we die persoon in een fotografische opstelling plaatsen en ook een ooggetuige laten identificeren? Is er bewijs van vingerafdrukken? Is er DNA-bewijs? Kan de onderzoekende rechercheur of officier zich identificeren na, na het bekijken van de video en na het bekijken van de, de foto, eh, dat was, die in het systeem werd geüpload. Dus het is niet alleen automatisch: 'Hé, deze persoon kwam naar voren als een 99% match. Laten we ze gaan halen.' Alleen omdat iemand een fooi belt en zegt: Hé, ik denk dat dat mijn buurman is, Bobby, we gaan Bobby niet arresteren.
Jennifer Strong : En nogmaals, ik wilde weten of ze ooit hun foto's manipuleren voordat ze ze door de software halen om de kans op een match te vergroten.
Armando Aguilar : Nee, wij, we manipuleren op geen enkele manier onze sondefoto, wat nogmaals de foto is die we uploaden naar, in het systeem, wij, we gebruiken wat er beschikbaar is en we komen met een match of we doen het niet 't.
Jennifer Strong : Ze nemen ook geen deel aan beroemdheden om een verdachte te helpen vinden of mensen in realtime te volgen. En ze dachten ook na over hoe face-ID inbreuk zou kunnen maken op grondwettelijke rechten.
Armando Aguilar : Misschien als we op een dag protesten hebben buiten het politiebureau, die de afgelopen maanden heel reëel zijn geworden, willen we deze technologie niet gebruiken om demonstranten of protestorganisatoren te identificeren. Mensen willen het leven hardop beleven en elk moment van hun leven posten op sociale media, eh, en vragen ook om privacy. En dus stellen velen van ons zeker onze persoonlijke sociale-media-accounts in op privé-instellingen. En dus wil ik er zeker van zijn dat iedereen zich ervan bewust is dat dit systeem op geen enkele manier inbreekt in je privé-instellingen. Dus dit zoekt alleen op internet en sociale media-pagina's naar die afbeeldingen die voor iedereen beschikbaar zijn. En dus alles wat daarbuiten zou zijn, zou een duidelijke schending zijn van, uh, de rechten van het vierde amendement van mensen. En dat is iets waar we, uh, niet toe in staat zijn, noch de interesse om te doen.
Jennifer Strong : Dus wat hij zegt is dat we verantwoordelijk zijn voor het beschermen van onze eigen privacy op het web. En we hebben de mogelijkheid om Facebook-instellingen privé te maken, maar het gebruik van standaardinstellingen op sociale media is niet helemaal hetzelfde als een politiebureau binnenlopen en een heleboel foto's verstrekken die veel persoonlijke informatie prijsgeven. En dit maakt deel uit van wat toestemming online echt netelig maakt.
Jennifer Sterk: Volgende aflevering ontmoeten we de oprichter van het Russische bedrijf achter wat misschien wel 's werelds grootste realtime gezichts-ID-systeem is, dat niet alleen wil werken aan mensen die maskers dragen, maar ook wil weten of ze correct worden gedragen en het rijbewijs van je auto kan lezen plaat tegelijk.
Jennifer Sterk: Ben je ooit bang dat iemand al je harde werk op zich neemt en het gebruikt om een wereld op te bouwen waarin je niet echt wilt leven? Ga met ons mee terwijl we deze miniserie afronden door de weg vooruit te verkennen en te onderzoeken hoe beleid eruit zou kunnen zien.
Jennifer Sterk: Deze aflevering is gerapporteerd en geproduceerd door mij, Tate, Ryan-Mosley en Emma Cillekens. We hadden hulp van Benji Rosen en Karen Hao. We worden geredigeerd door Michael Reilly en Gideon Lichfield. Onze technisch directeur is Jacob Gorski. Bedankt voor het luisteren. Ik ben Jennifer Strong.