Zo verloren we de controle over ons gezicht

Getty

In 1964, wiskundige en informaticus Woodrow Bledsoe eerst geprobeerd de gezichten van verdachten te matchen met mugshots. Hij mat de afstanden tussen verschillende gelaatstrekken in afgedrukte foto's en voerde ze in een computerprogramma. Zijn rudimentaire successen zouden het begin zijn van tientallen jaren van onderzoek naar leermachines om menselijke gezichten te herkennen.

nutsvoorzieningen een nieuwe studie laat zien hoezeer deze onderneming onze privacy heeft aangetast. Het heeft niet alleen geleid tot een steeds krachtiger bewakingsinstrument. De nieuwste generatie gezichtsherkenning op basis van deep learning heeft onze normen voor toestemming volledig verstoord.

Deborah Raji, een fellow bij de non-profitorganisatie Mozilla, en Genevieve Fried, die leden van het Amerikaanse Congres adviseert over algoritmische verantwoording, onderzochten meer dan 130 gezichtsherkenningsdatasets die in 43 jaar waren verzameld. Ze ontdekten dat onderzoekers, gedreven door de exploderende gegevensvereisten van deep learning, geleidelijk afhaakten om toestemming van mensen te vragen. Dit heeft ertoe geleid dat steeds meer persoonlijke foto's van mensen zonder hun medeweten in bewakingssystemen zijn opgenomen.

Het heeft ook geleid tot veel rommeligere datasets: ze kunnen onbedoeld foto's van minderjarigen bevatten, racistische en seksistische labels gebruiken of een inconsistente kwaliteit en belichting hebben. De trend zou kunnen helpen bij het verklaren van het groeiende aantal gevallen waarin gezichtsherkenningssystemen faalden met verontrustende gevolgen, zoals de valse arrestaties van twee zwarte mannen in de omgeving van Detroit vorig jaar.

Mensen waren in de begindagen extreem voorzichtig met het verzamelen, documenteren en verifiëren van gezichtsgegevens, zegt Raji. Nu maakt het ons niet meer uit. Dat is allemaal opgegeven, zegt ze. Je kunt gewoon geen miljoen gezichten bijhouden. Na een bepaald punt kun je niet eens doen alsof je de controle hebt.

Een geschiedenis van gezichtsherkenningsgegevens

De onderzoekers identificeerden vier belangrijke tijdperken van gezichtsherkenning, elk gedreven door een toenemende wens om de technologie te verbeteren. De eerste fase, die liep tot de jaren negentig, werd grotendeels gekenmerkt door handmatig intensieve en rekenkundig trage methoden.

Maar toen, aangespoord door het besef dat gezichtsherkenning individuen effectiever zou kunnen volgen en identificeren dan vingerafdrukken, pompte het Amerikaanse ministerie van Defensie $ 6,5 miljoen in het creëren van de eerste grootschalige gezichtsdataset. Tijdens 15 fotosessies in drie jaar tijd heeft het project 14.126 foto's gemaakt van 1.199 individuen. De Face Recognition Technology (FERET)-database werd in 1996 uitgebracht.

Het volgende decennium zag een opleving in academisch en commercieel gezichtsherkenningsonderzoek en er werden veel meer datasets gemaakt. De overgrote meerderheid was afkomstig van fotoshoots zoals die van FERET en had volledige toestemming van de deelnemer. Veel bevatten ook nauwgezette metadata, zegt Raji, zoals de leeftijd en etniciteit van onderwerpen, of informatie over de verlichting. Maar deze vroege systemen hadden het moeilijk in de echte wereld, wat onderzoekers ertoe aanzette om grotere en meer diverse datasets te zoeken.

In 2007 opende de release van de dataset Labeled Faces in the Wild (LFW) de sluizen voor het verzamelen van gegevens via zoeken op internet. Onderzoekers begonnen afbeeldingen rechtstreeks van Google, Flickr en Yahoo te downloaden zonder zich zorgen te hoeven maken over toestemming. Een daaropvolgende dataset, samengesteld door andere onderzoekers, LFW+ genaamd, versoepelde ook de normen rond de opname van minderjarigen, waarbij foto's werden gebruikt die werden gevonden met zoektermen als baby, jeugdig en tiener om de diversiteit te vergroten. Dit proces maakte het mogelijk om in korte tijd aanzienlijk grotere datasets te maken, maar gezichtsherkenning stond nog steeds voor veel van dezelfde uitdagingen als voorheen. Dit dwong onderzoekers om nog meer methoden en gegevens te zoeken om de slechte prestaties van de technologie te overwinnen.

Toen, in 2014, gebruikte Facebook zijn gebruikersfoto's om een ​​deep-learningmodel genaamd DeepFace te trainen. Hoewel het bedrijf de dataset nooit heeft vrijgegeven, hebben de bovenmenselijke prestaties van het systeem deep learning verheven tot de feitelijke methode voor het analyseren van gezichten. Op dat moment werden handmatige verificatie en labeling bijna onmogelijk omdat de datasets groeiden tot tientallen miljoenen foto's, zegt Raji. Het is ook wanneer er echt vreemde verschijnselen verschijnen, zoals automatisch gegenereerde labels met aanstootgevende terminologie.

Verwant verhaal

Een AI zag een bijgesneden foto van AOC. Het voltooide haar automatisch in een bikini. Algoritmen voor het genereren van afbeeldingen braken dezelfde seksistische, racistische ideeën uit die op internet bestaan.

Rond deze tijd begon ook de manier waarop de datasets werden gebruikt te veranderen. In plaats van te proberen individuen te matchen, begonnen nieuwe modellen zich meer te concentreren op classificatie. In plaats van te zeggen: 'Is dit een foto van Karen? Ja of nee', het veranderde in 'Laten we Karen's interne persoonlijkheid of haar etniciteit voorspellen' en mensen in deze categorieën indelen, zegt Raji.

Amba Kak, de global policy director bij AI Now, die niet heeft deelgenomen aan het onderzoek, zegt dat de paper een grimmig beeld geeft van hoe de biometrie-industrie is geëvolueerd. Deep learning heeft de technologie misschien van een aantal problemen gered, maar die technologische vooruitgang heeft ook een prijskaartje gehad, zegt ze. Het heeft al deze problemen opgeworpen waar we nu redelijk bekend mee zijn: toestemming, extractie, IP-problemen, privacy.

Schade die schade veroorzaakt

Raji zegt dat haar onderzoek naar de gegevens haar ernstig bezorgd heeft gemaakt over gezichtsherkenning op basis van deep learning.

Het is zoveel gevaarlijker, zegt ze. De gegevensvereiste dwingt u om ongelooflijk gevoelige informatie te verzamelen over ten minste tienduizenden mensen. Het dwingt je om hun privacy te schenden. Dat is op zich al een basis van schade. En dan hamsteren we al deze informatie waar je geen controle over hebt om iets te bouwen dat waarschijnlijk zal functioneren op manieren die je niet eens kunt voorspellen. Dat is echt de aard van waar we ons bevinden.

Ze hoopt dat de paper onderzoekers zal aanzetten om na te denken over de afweging tussen de prestatiewinst die voortvloeit uit deep learning en het verlies van toestemming, nauwgezette gegevensverificatie en grondige documentatie. Was het de moeite waard om al deze praktijken te verlaten om aan deep learning te doen? ze zegt.

Ze spoort degenen die gezichtsherkenning willen blijven ontwikkelen aan om te overwegen verschillende technieken te ontwikkelen: als we willen proberen deze tool echt te gebruiken zonder mensen pijn te doen, moeten we alles wat we erover weten opnieuw bekijken.

Correctie, 15 februari 2021: In een eerdere versie van het artikel stond dat de dataset Labeled Faces in the Wild (LFW) 'de standaarden rond de inclusie van minderjarigen versoepelde'. Het was namelijk de LFW+ dataset, die achteraf door een andere groep onderzoekers is samengesteld.

zich verstoppen