211service.com
Waarom het verbod op gezichtsherkenning in San Francisco slechts het begin is van een lang gevecht
Een afbeelding van een straat in San Francisco Unsplash
San Francisco is uitgegroeid tot de eerste Amerikaanse stad die het gebruik van gezichtsherkenning door de overheid verbiedt . Maar hoewel voorstanders van privacy vieren, weerhoudt de verordening particuliere bedrijven er niet van gezichtsherkenning te gebruiken op manieren die veel mensen eng vinden.
Het kan echter een eerste stap zijn.
Het gebruik van gezichtsherkenningstechnologie is steeds gebruikelijker geworden, ondanks het bewijs dat het identificeert vaak mensen van kleur verkeerd . Activisten waarschuwen dat het kan leiden tot valse arrestaties, of gebruikt kan worden om de verblijfplaats van mensen te volgen en richt je op andersdenkenden die niets verkeerd hebben gedaan .
In de afgelopen jaren moesten functionarissen in San Francisco hun gebruik van hightech surveillancetools in twijfel trekken. In 2009 stopte de politie een chauffeur, Denise Green, en hield haar onder schot tijdens het doorzoeken van haar auto , allemaal omdat een kentekenlezer ten onrechte zei dat het was gestolen. Green aangeklaagd en de stad eindigde haar $ 495.000 betalen . Dergelijke afleveringen hebben ongetwijfeld bijgedragen aan de druk voor een verbod, hoewel de politie van San Francisco momenteel geen gezichtsherkenningstechnologie gebruikt.
In veel opzichten is het echter niet verwonderlijk dat de door technologie geobsedeerde stad de eerste is die de technologie beperkt. [Het is net hoe] ouders in Silicon Valley het meest geneigd zijn om de schermtijd voor hun kinderen te verbieden, zegt Laura Noren, een data-ethicus en vice-president van privacy en vertrouwen bij Obsidiaan beveiliging . Andere technisch onderlegde steden zullen waarschijnlijk zijn voorbeeld volgen, zegt Noren, wat verklaart waarom het nabijgelegen Oakland en Somerville in Massachusetts hebben al soortgelijke verboden voorgesteld. Toch denkt ze dat een federaal verbod onder de regering-Trump onwaarschijnlijk is.
Openbaar versus privé
De ervaring van de meeste mensen met gezichtsanalyse en -herkenning zal echter niet plaatsvinden vanwege politietoezicht. Het zal eerder zijn vanwege niet-gouvernementele inspanningen, zoals school beveiligingscamera's of winkels die toon consumenten gerichte advertenties . Deze toepassingen brengen dezelfde risico's van verkeerde identificatie en discriminatie met zich mee, maar verboden zoals die in San Francisco zullen ze niet verbieden.
Een voorbeeld van de problemen die zich kunnen voordoen, is dat een 18-jarige aangeklaagd Apple vorige maand omdat hij beweerde dat een gezichtsherkenningssysteem in een van zijn winkels hem valselijk in verband bracht met diefstallen. (Volgens Apple gebruikt het dergelijke systemen niet in zijn winkels.) In een ander geval hebben huurders van Atlantic Plaza Towers, een appartementencomplex in New York City, vechten tegen het plan van hun huisbaas om een keyfob-toegangssysteem te vervangen door een gezichtsherkenningssysteem . De technologie is discriminerend, zeggen de huurders, omdat de torenbewoners meestal gekleurde mensen zijn. Waarom heeft [de verhuurder] ons gebouw gekozen om dit systeem uit te proberen? Versus 11 andere gebouwen die een andere samenstelling hebben? vraagt Icemae Downes, een van de bewoners.
Een volledig verbod in de particuliere sector is echter onwaarschijnlijk. Veel consumenten gebruiken FaceID al om hun iPhone te ontgrendelen of videodeurbellen te kopen, zoals Google's Nest Hello, dat herken bekende mensen . Als je verhaal 'overheidstoezicht' is, heeft dat meestal een krachtige weerklank, zegt: Jozef Jerome , beleidsadviseur voor het Privacy & Data Project bij het Centrum voor Democratie en Technologie. Als je te maken hebt met de private sector, beginnen we debatten te voeren over wat nuttige innovatie is.
Zulke debatten worden snel ingewikkeld. Als bedrijven gezichtsherkenningstechnologie gebruiken, hoe moeten ze klanten dan informeren? Welke rechten moeten mensen hebben om zich af te melden en hoe gemakkelijk moet dat proces zijn? Moeten de gegevens ooit aan derden worden verstrekt of verkocht? Dit waren enkele van de vragen die naar voren kwamen tijdens de bespreking van a Privacywet van de staat Washington dat mislukte eerder dit jaar, volgens Jevan Hutson , een onderzoeker op het gebied van technologiebeleid aan de Universiteit van Washington. De twee partijen konden het niet eens worden over hoe sterk de privacybeperkingen zouden moeten zijn.
Toch beginnen er beperkingen op commercieel gebruik te verschijnen, zegt Jennifer Lynch, directeur toezichtrechtzaken bij de Electronic Frontier Foundation. Bijvoorbeeld, een wet in Illinois vereist dat bedrijven toestemming krijgen voordat ze biometrische gegevens verzamelen. Een bipartisan wetsvoorstel met een smallere eis, de Privacywet voor commerciële gezichtsherkenning , is momenteel in commissiehoorzittingen in het Congres.
Noren van haar kant is van mening dat bedrijven een nauwkeurigheidsdrempelvereiste zullen nastreven - in feite stelt ze voor gezichtsherkenning toe te staan zolang ze kunnen bewijzen dat het niet te veel fouten maakt.
Uiteindelijk, zegt Jerome, is het te vroeg om te zeggen in hoeverre de SF-verordening de commerciële regelgeving zal beïnvloeden. Ik denk dat het het debat dat staten en de federale overheid voeren rond gezichtsherkenning zal verzwakken, maar of dat tot actie leidt, is onduidelijk, zegt hij. Een paar jaar geleden was er een vergelijkbare publieke/private verdeling over drones, voegt Jerome eraan toe: veel lokale steden beperkten hun gebruik door wetshandhavers, maar deden weinig om ze voor commerciële doeleinden te reguleren.