Zo schop je gezichtsherkenning je stad uit

Beveiligingscamera Getty

In San Francisco mag een agent geen gezichtsherkenningstechnologie gebruiken op een gearresteerde. Maar een verhuurder kan het op een huurder gebruiken en een schooldistrict kan het op studenten gebruiken.

Dit is waar we ons bevinden, midden in een tijdperk waarin camera's op de hoek automatisch voorbijgangers herkennen, of ze dat nu leuk vinden of niet. De vraag wie deze technologie moet kunnen gebruiken en wie niet, blijft grotendeels onbeantwoord in de VS. Tot dusver was de Amerikaanse reactie tegen gezichtsherkenning vooral gericht tegen wetshandhavers. San Francisco en Oakland, evenals Somerville, Massachusetts, hebben de politie het afgelopen jaar verboden de technologie te gebruiken omdat de algoritmen zijn niet nauwkeurig voor mensen van kleur en vrouwen . Presidentskandidaat Bernie Sanders heeft zelfs riep op tot een moratorium op politiegebruik .

Particuliere bedrijven en eigenaren van onroerend goed hebben dergelijke beperkingen niet gehad, en gezichtsherkenning duikt steeds meer op in appartementsgebouwen, hotels en meer. Voorstanders van privacy maken zich zorgen dat constant toezicht zal leiden tot discriminatie en een huiveringwekkend effect zal hebben op de vrijheid van meningsuiting - en het Amerikaanse publiek is er ook niet erg comfortabel mee. Volgens een recent onderzoek van Pew Research voelen mensen in de VS zich eigenlijk beter bij het gebruik van gezichtsherkenning door agenten dan bij particuliere bedrijven.

Iedereen die wacht op een snel federaal verbod, zowel voor wetshandhaving als voor de particuliere sector, zal waarschijnlijk teleurgesteld zijn, zegt AI-beleidsexpert Mutale Nkonde, een fellow aan het Berkman Klein Center van Harvard. Vanuit een federaal perspectief zal alles wat het bedrijfsleven of innovatie lijkt te ondermijnen, niet de voorkeur krijgen, zegt ze. In theorie zouden verbodsbepalingen in steden die tot nu toe op politie waren gericht, kunnen worden uitgebreid tot particuliere belangen. Staten zouden ze dan kunnen opnemen, wat uiteindelijk tot actie in Washington zou kunnen leiden. Maar het zal even duren, als het al gebeurt.

In de tussentijd is er een groeiend momentum in de richting van het inperken van privé-surveillance, met behulp van een reeks tactieken. Van teen tot teen gaan met grote bedrijfsbelangen tot leunen op juridische theorie over wat burgerrechten in Amerika zijn, hier zijn drie belangrijke benaderingen die momenteel in het spel zijn die op een dag de manier waarop gezichtsherkenning in ons leven wordt gebruikt drastisch kunnen veranderen.

Bedrijven aanpakken

De eerste tactiek is ouderwetse bedrijfsdruk, zegt Evan Greer, adjunct-directeur van de digitale rechtengroep Fight for the Future. De organisatie heeft een websitevermelding gemaakt de luchtvaartmaatschappijen die gezichtsherkenning gebruiken, om consumenten aan te moedigen voor andere opties te kiezen. Meer recentelijk werd Fight for the Future gelanceerd een campagne die concertzalen en festivals onder druk zet om de technologie niet te gebruiken , mede geïnspireerd door de uitspraak van Ticketmaster dat het kan tickets vervangen met gezichts-ID . Muzikanten, waaronder singer-songwriter Amanda Palmer, rapper Atmosphere en Tom Morello van Rage Against the Machine hebben allemaal de inspanning gesteund.

Grote muziekfestivals zoals Governors Ball, Austin City Limits, Bonnaroo en Pitchfork hebben nu beloofd geen gezichtsbewaking te gebruiken. Het is waardevol om toezeggingen te krijgen, zegt Greer. We hoeven niet te wachten tot een industrie technologie al op grote schaal gebruikt en verweeft in hun bedrijfsmodel.

De wetgevende methode

Een ander model volgt de stad-voor-stad progressie van politieverboden. De stad Portland, Oregon, overweegt twee afzonderlijke verordeningen, een die politie zou verbieden de technologie te gebruiken en... een die ook particuliere bedrijven zou stoppen . Het privéverbod zou bijvoorbeeld geen invloed hebben op Apple's FaceID of Facebook's gebruik van gezichtsherkenning in de tagging-functie. Stadsambtenaren maken zich meer zorgen over het vooruitzicht van winkels en andere vestigingen gezichtsherkenning nodig hebben om binnen te komen , iets dat Jacksons, een plaatselijke supermarkt, meer dan een jaar geleden op beperkte basis begon te doen. In november bespreekt de raad het voorstel opnieuw.

Ondertussen richten de Amerikaanse congresvrouwen Yvette Clarke, Ayanna Pressley en Rashida Tlaib zich niet op geografische regio's, maar op bepaalde groepen. Ze hebben zojuist een federaal wetsvoorstel dat gezichtsherkenning in door de federale overheid gefinancierde volkshuisvesting zou verbieden .

Het gebruik van gezichtsherkenning door verhuurders wordt snel een hot-button-probleem. Volgens het recente Pew-rapport vindt slechts 36% van de Amerikanen dat het oké is om gezichtsherkenning te eisen om de plaats waar ze wonen te betreden. De kwestie is een nog grotere zorg in federale of lage inkomenshuisvesting. Niet alleen is de technologie invasief, zeggen bewoners, maar het is ook discriminerend, omdat veel huurders mensen van kleur zijn. In New-York, bewoners van een gebouw met een laag inkomen ben geweest vechten tegen het plan van hun huisbaas om een ​​afstandsbedieningssysteem te vervangen door een gezichtsherkenningssysteem . Waarom heeft [de verhuurder] ons gebouw gekozen om dit systeem uit te proberen? Versus 11 andere gebouwen die een andere samenstelling hebben? vroeg Icemae Downes, een van de bewoners.

Het wiel opnieuw uitvinden is niet nodig

Bestaande wetgeving kan ook worden bijgewerkt om gezichtsherkenning te dekken, zegt Jevan Hutson, een rechtenstudent en onderzoeker technologiebeleid aan de Universiteit van Washington. Staten hebben al burgerrechtenwetten die discriminatie in openbare gelegenheden zoals restaurants, hotels, scholen, ziekenhuizen, parken, congrescentra en meer voorkomen. Gezien het trackrecord van de technologie van mensen niet eerlijk kunnen behandelen , zegt Hutson dat het mogelijk is om een ​​juridisch argument op te bouwen dat gezichtsherkenning de burgerrechten schendt. Als een dergelijke wijziging wordt doorgevoerd, zou de wet effectief voorkomen dat de technologie wordt ingezet in een groot aantal openbare ruimtes.

Een andere manier zou zijn om de consumentenbeschermingswetten van een staat bij te werken. Veel bedrijven beweren dat hun technologie emoties kan detecteren, maar studies hebben aangetoond dat hun methoden zeer gebrekkig zijn. Het is dus mogelijk om te beweren dat deze algoritmen wetten overtreden tegen oneerlijke of bedrieglijke praktijken.

Zo'n stap dwingt lobbyisten om zich bezig te houden met de taal van burgerrechten. Het is alsof, oké, we werken de burgerrechtenwet bij. Je geeft om de beginselen van burgerrechten, zegt Hutson. Als u niet wilt dat wij het doen, hoe kunnen we dan verwachten dat een van uw [voorgestelde] waarborgen ertoe doet?' Hij werkt samen met wetgevers en hoopt een wetsvoorstel in te dienen tijdens de volgende wetgevende vergadering in de staat Washington, die in januari begint.

Scheiding? Niet echt

In de praktijk is het onderscheid tussen overheids- en particuliere gezichtsherkenning vals. Het ene normaliseren normaliseert het andere, zegt Evan Selinger, een filosoof aan het Rochester Institute of Technology. Zodra iedereen gewend is aan het gebruik van Het gezichtsherkenningssysteem van Facebook , zegt hij, het wordt een stuk moeilijker om te zeggen dat wetshandhavers, die voor het goede zorgen, minder vrijheid zouden moeten hebben dan jij. Wanneer gezichtsherkenning als vanzelfsprekend wordt beschouwd, voorziet u de particuliere sector uiteindelijk van informatie die zij kan delen met wetshandhavers.

Die particuliere sector is machtig en zal inspraak willen hebben in de regelgeving. Amazon CEO Jeff Bezos zei onlangs dat het bedrijf zijn eigen conceptrichtlijnen voor gezichtsherkenning maken aan wetgevers te presenteren. Eerder dit jaar ondersteunde Microsoft de privacywetgeving in de staat Washington die een aantal beperkingen zou hebben opgelegd aan gezichtsherkenning. Maar de rekening zei ook: het was oké om gezichtsherkenning te gebruiken voor profilering zolang iemand de resultaten beoordeelde. Het mislukte daarna zes privacygroepen voerden aan: dat het veel te zwak was.

Dat is een deel van de reden waarom activisten zoals Greer erop staan ​​dat een meerledige strategie die kijkt naar wetgevende en economische benaderingen noodzakelijk zal zijn. We hebben al het bovenstaande nodig, zegt ze. Leden van het publiek zouden bedrijven absoluut verantwoordelijk moeten houden. Wetgevers zouden dit absoluut moeten aanpakken. Als er één ding is dat we weten, is het dat we industrieën niet kunnen vertrouwen om zichzelf te reguleren.

zich verstoppen