Podcast: opgelet, shoppers, u wordt gevolgd

In sommige winkels volgen geavanceerde systemen klanten op bijna elke denkbare manier, van het herkennen van hun gezichten tot het meten van hun leeftijd, hun humeur en ze virtueel oppeuzelen met make-up. De systemen vragen zelden om toestemming van mensen, en voor het grootste deel ook niet. In de finale van seizoen 1 kijken we naar de explosie van AI- en gezichtsherkenningstechnologieën in winkelruimtes en wat dit betekent voor de toekomst van winkelen.

We ontmoeten:

• DetailhandelVolgende CTO Arun Nair
• L'Oreal's Technology Incubator Global VP Guive Balooch
• Modiface CEO Parham Arabi
• Biometrie pionier en voorzitter van ID4Africa Joseph Atick

tegoeden

Deze aflevering werd gerapporteerd en geproduceerd door Jennifer Strong, Anthony Green, Tate Ryan-Mosley, Emma Cillekens en Karen Hao. We worden geredigeerd door Michael Reilly en Gideon Lichfield.

Vertaling

[TR-ID]

Krachtig: Retailers gebruiken al jaren gezichtsherkenning en AI-trackingtechnologieën.

[ Audio van Face First: Wat als u winkelcriminaliteit zou kunnen stoppen voordat deze plaatsvindt door te weten wanneer een winkeldief uw winkel binnenkomt? En wat als u zou kunnen weten over de aanwezigheid van gewelddadige criminelen voordat ze handelen? Met Face First kun je misdaad stoppen voordat het begint.]

Krachtig: Dat is een van de grootste leveranciers van deze technologie aan winkels. Het detecteert gezichten, stemmen, objecten en beweert dat het gedrag kan analyseren. Maar gezichtsherkenningssystemen hebben een goed gedocumenteerde geschiedenis van het verkeerd identificeren van vrouwen en mensen van kleur.

[ Geluid van congreshoorzitting 2019 over gezichtsherkenning (Ocasio-Cortez): We hebben een technologie die is gemaakt en ontworpen door één demografische groep die alleen effectief is voor die ene demografie. En ze proberen het te verkopen en het op te leggen aan het hele land?]

Krachtig: Dit is vertegenwoordiger Alexandria Ocasio-Cortez tijdens een congreshoorzitting in 2019 over gezichtsherkenning. Fototechnologieën werken beter op een lichtere huid. En datasets die door bedrijven worden gebruikt om gezichtsanalysesystemen te trainen, zijn grotendeels gebaseerd op gezichten die zijn verzameld van internet, waar de inhoud de neiging heeft om blank, mannelijk en westers te zijn.

[ Geluid van congreshoorzitting 2019 over gezichtsherkenning (Ocasio-Cortez): En denk je dat dit de toch al flagrante, uh, ongelijkheden in ons, in ons strafrechtsysteem zou kunnen verergeren]

[ Geluid van congreshoorzitting 2019 over gezichtsherkenning (Buolamwini): En dat is het al.]

Krachtig: Joy Buolamwini is een activist en computerwetenschapper.

[ Geluid van congreshoorzitting 2019 over gezichtsherkenning (Buolamwini): Er is dus een zaak met Mr. Bah, een 18-jarige Afro-Amerikaanse man die in Apple-winkels ten onrechte als dief werd geïdentificeerd. En in feite werd hij meerdere keren valselijk gearresteerd vanwege dit soort verkeerde identificatie.

Krachtig: Naarmate het bewustzijn van deze problemen toeneemt, proberen meer plaatsen het gebruik ervan te beperken, zoals in Portland, Oregon, dat onlangs het meest ingrijpende verbod op gezichtsherkenning in de VS heeft aangenomen.

[ Geluid uit winkel in Portland, Oregon: kijk in de camera voor toegang]

Krachtig: Het verbod wordt van kracht in januari en wanneer dat gebeurt, zullen die stem en camera weggaan van plaatsen zoals deze voedselwinkel waar de technologie de deur opent voor late night shoppers. Maar elders gebruiken gaat veel verder dan het bestrijden van misdaad (en begint andere retailrollen te spelen), zoals het onthouden van uw eerdere bestellingen en betalingsgegevens.

Molenaar: Deze gezichtsgebaseerde technologieën, uhh kunstmatige intelligentie, machine vision stellen ons in staat om onze klant in de offline wereld te zien zoals Amazon zijn klant in de online wereld ziet. Dat stelt ons in staat om op maat gemaakte ervaringen voor de klant te creëren en stelt ons ook in staat om die klant direct op nieuwe manieren te targeten wanneer ze terugkomen in het restaurant.

Krachtig: Dat is de voorzitter van Cali Group, John Miller, het fastfoodrestaurant Caliburger probeert technologieën uit die het later aan de hele industrie op de markt brengt. Andere retailers gebruiken gezichtsherkenning om te weten wanneer VIP-shoppers of beroemdheden in hun winkels zijn, niet anders dan deze scène uit de film Minority Report waar Tom Cruise door een winkelcentrum slentert, zijn ogen worden gescand en de advertenties zijn personage bij naam aanspreken.

[ Geluid uit Minority Report waar stemmen John Anderson persoonlijk aanspreken]

Krachtig: De gezichtsmetingen die deze toepassingen mogelijk maken, kunnen ook voor veel andere dingen worden gebruikt dan alleen het identificeren van iemand. Sommige winkelcentra gebruiken het bijvoorbeeld om hun winkelhuur te bepalen door te tellen hoeveel mensen er langslopen en gezichtsgegevens te gebruiken om geslacht, leeftijd en andere demografische gegevens te meten. Soms zijn gezichtsherkenningscamera's zelfs verborgen in winkelgidsen. En in winkels gebruiken retailers het om beter te begrijpen waar shoppers in geïnteresseerd zijn. Het is ook ingebed in winkel-apps en winkelspiegels waarmee mensen virtueel alles kunnen passen, van brillen tot make-up.

Ik ben Jennifer Strong en deze aflevering sluiten we ons eerste seizoen (en onze nieuwste miniserie over gezichtsherkenning) af met een blik op hoe het wordt gebruikt om je winkelgewoonten te bekijken, te begrijpen en te beïnvloeden.

[Toon ID]

Krachtig: Dus ik sta voor de deur van wat ooit de grootste winkel ter wereld was. Dit is Macy's op 34th Street in Manhattan. Het gebouw vult een heel stadsblok en in sommige opzichten is het een soort zwaartepunt voor het kerstinkopenseizoen hier, onder andere de inspiratie voor een van de beroemdste kerstfilms van New York, Miracle on 34th Street.

Maar het bedrijf heeft mogelijk ook een geschiedenis van het gebruik van gezichtsherkenning en daarover is een rechtszaak aangespannen in Illinois, die een biometrische privacywet heeft die vereist dat bedrijven toestemming krijgen voordat ze het op klanten gebruiken. Die rechtszaak beweert dat Macy's een klant is van ClearviewAI. We hebben de oprichter van deze show Hoan Ton-That en zijn product laten werken door afbeeldingen, in dit geval van shoppers of winkeldieven, te matchen met een database van misschien wel miljarden foto's van sociale media die zijn gepost door mensen die hun instellingen om de foto's privé te maken voor hun vrienden.

Nu hebben de raadsleden van New York City hier zojuist een biometrische maatregel aangenomen die, indien ondertekend door de burgemeester, retailers hier ook aan shoppers zal vertellen dat gezichtsherkenning wordt gebruikt en misschien wat er met die gegevens gebeurt. Maar je weet dat het te vroeg is om te zeggen hoe dat eruit zou kunnen zien. Ik bedoel, loopt als onderdeel van een grote menigte winkelend publiek langs een muurplaat waarop staat dat gezichtsherkenning aanwezig is, staat dat gelijk aan geïnformeerd zijn, laat staan ​​toestemming geven? Maar ik ga naar binnen met mijn producer, Anthony Green, en kijk of we totaal verschillende toepassingen van face mapping kunnen vinden om je te laten zien.

Verschillende van deze schoonheidsbalies hebben iPads die ook dienst doen als spiegels met augmented reality. We hebben er drie uitgeprobeerd, slechts één, hoewel we om toestemming vroegen om onze gezichten te analyseren. Twee van de systemen zagen ons prima door onze maskers heen. De ander herkende onze gezichten helemaal niet.

Ik liep naar een spiegel en die zegt dat mijn verlichting in orde is. Kom dichterbij totdat je gezicht een cirkel vult. Blijkbaar heb ik donkere kringen, ongelijke textuur. irritatie en roodheid en ooglijnen. We zijn in ieder geval aan de mindere kant? Ik weet het niet. Wauw. Hey Anthony, je zou dit eens moeten zien. Ik wist niet zeker of het iets deed en kijk nu in de spiegel.

Groente: Wauw.

Krachtig: Rechts?

Groente: Wauw.

Krachtig: Ik heb niet echt woorden om dit te beschrijven, maar het is zo grappig om mezelf dit verzonnen te zien.

Groente: Net een soort van glamour.

Krachtig: Ja. Ik ben super glamoureus. En letterlijk alles wat ik deed was in deze spiegel kijken en toen keek ik neer op een iPad en Holy, wow.

Groente: Dit werkt met je masker op.

Krachtig: Dit is met mijn masker op. En als ik mijn masker naar beneden trek, ben ik overal opgemaakt.

Groente: Oh ja.

Krachtig: Zoals glanzend en zo. O, kijk naar jou.

Groente: Wauw.

Krachtig: Oké, dus Anthony deed net een stap naar mij toe en nu heeft hij het goedgemaakt tot de negens. Oke. Deze ervaringen zijn enkele van de vele manieren waarop face mapping kan worden toegepast.

Maar omdat ze zo controversieel zijn, willen de meeste merken er gewoon niet over praten. En meestal hoeven ze dat niet te doen. Er is geen nationale vereiste dat bedrijven de manier waarop ze onze biometrische gegevens verzamelen of gebruiken openbaar maken, ook al kunnen we ons een niet zo verre toekomst voorstellen wanneer die gegevens belangrijker worden dan enig ander document dat we hebben. Deze persoonlijke gegevens zullen ze waarschijnlijk allemaal vervangen om te bewijzen wie we zijn en wat we bezitten.

Het meeste van wat we weten over het gebruik van gezichtsherkenning door retailers begon in 2013 toen bekend werd dat identiteitsbedrijf NEC ongeveer een dozijn merken en hotels als klant had en zij de gezichtsleestechnologie gebruikten om beroemdheden en andere VIP's te identificeren als zij liepen door hun deuren.

Het jaar daarop kondigde Facebook aan dat het voor het eerst neurale netwerken toepast op Face ID, waardoor het aanzienlijk beter werkt. En retailers, waaronder Walmart, begonnen het te testen als een manier om mensen te identificeren die op winkeldiefstal waren betrapt.

In 2016 experimenteerden fastfoodbedrijven met andere use-cases. Eén partnerschap, tussen KFC en de Chinese technologiegigant Baidu, beval menu-items aan klanten aan op basis van hun leeftijd en gemoedstoestand, zoals blijkt uit gezichtsscans. Tegenwoordig is het ook mogelijk om met je gezicht te betalen, maar tot nu toe zijn deze applicaties niet echt aangeslagen. En dus, waar u ook winkelt, het is redelijk om aan te nemen dat u een bepaald aspect van deze technologie tegenkomt en dat het kan worden gecombineerd met een willekeurig aantal andere trackers. Maar het is evengoed waar dat veel van de tracking die in winkels wordt gedaan met behulp van computervisie, helemaal geen gezichtsherkenning omvat.

Nair: Als u vandaag een website bouwt, zijn er veel tools beschikbaar die u kunt gebruiken om u gegevens te geven, zoals hoeveel mensen uw website hebben bezocht, wie ze waren, hoe ze op uw website hebben genavigeerd enzovoort en voor e-commercesites de eventuele aankoopactiviteit ook. En u kunt al deze gegevens gebruiken om het bezoekersgedrag te begrijpen en uw site te optimaliseren. We doen precies hetzelfde, maar dan voor fysieke ruimtes. Mijn naam is Arun Nair. Ik ben de CTO en mede-oprichter van RetailNext.

Krachtig: Hun trackingsoftware wordt ingezet in kantoren, musea en zelfs bowlingbanen, maar hun primaire markt is de detailhandel. Plafondcamera's die zijn uitgerust met computervisie volgen klanten terwijl ze door de winkel lopen. Het kan demografische basisinformatie raden, zoals geslacht, wie een werknemer is, op basis van of ze achter de kassa staan, zelfs interacties tussen werknemers en klanten.

Nair: We hebben zelfs een voorspellingsalgoritme dat u op basis van historische informatie vertelt wanneer uw winkel later op de dag, later in de week, druk zal zijn. En het is zeer nuttig voor de personeelsbezetting. Zorg er dus voor dat wanneer u een piek verwacht, er mensen zijn om het winkelend publiek te helpen en dat ze niet in de rij staan, enzovoort, en dat u niet altijd bemand bent als er niemand aanwezig hoeft te zijn.

Krachtig: Hij zegt dat het bedrijf in staat is te bepalen waar je naar kijkt, maar het houdt geen blikken, uitdrukkingen of gezichten bij. En ze identificeren niemand individueel.

Nair: We weten niet wie ze zijn als individuen, en we proberen specifiek dat ook niet te doen. En in veel gevallen, als we die informatie eenmaal hebben, gooien we de video weg of vervagen we de video.

Krachtig: Als het om privacy gaat, vindt hij dat systemen die gezichtsherkenning gebruiken voor identiteit opt-in moeten zijn

Nair: Toestemming gaat niet alleen over: Oh, ik heb mijn gegevens daar neergezet zodat je kunt doen wat je wilt. Ik denk dat toestemming ook over jou gaat, weet je, we willen dat je dit doet zodat we dit in ruil voor jou kunnen doen. Vind je dat goed?

Krachtig: Maar hij geeft toe dat dat makkelijker gezegd is dan gedaan.

Nair: Het is niet eenvoudig om van die dingen af ​​te zien. En zelfs als je je afmeldt, is de uitdaging dat laten we zeggen, je zegt dat, Hé, ik wil me uit mijn gezicht afmelden. Als technologiebedrijf moet ik nog steeds een gedigitaliseerde versie van je gezicht opslaan om ervoor te zorgen dat ik je in de toekomst niet meer volg, want de volgende keer dat ik je gezicht zie, heb ik iets nodig om tegen te zeggen dat, oh, ik zou het gezicht van deze persoon moeten laten vallen. Maar nogmaals, weet je, op een rare manier, bewaar ik nu een gedigitaliseerde versie van je gezicht, die. Nogmaals, het is niet echt je gezicht, maar het is een weergave ervan.

Krachtig: En deze uitdagingen gaan niet weg. De meeste trackingtechnologieën zijn niet gereguleerd en we weten gewoon niet hoe vaak zaken als gezichtsgegevens worden vastgelegd. Het is duidelijk dat de detailhandel verschuift naar een wereld die draait om realtime analyse van klantervaringen.

Nair: Ik denk dat ze dat steeds vaker gaan zien, waar er op deze locaties minder aankopen worden gedaan, maar zo leer je over het merk. [00:12:15] Bijna zoals adverteren, maar ook een soort van merkloyaliteit opbouwen.

Krachtig: Door klanten en hun interactie met de winkel te volgen, weten retailers niet alleen wat er wordt verkocht, maar krijgen ze ook inzicht in wat klanten willen.

Nair: Je introduceert een nieuw product. En je wilt zeker weten dat mensen dat product zien. Onze algoritmen zullen u vertellen of mensen daadwerkelijk een deel van de winkel binnengaan en met een product communiceren en daarna daadwerkelijk een aankoop doen.

Baloe: Ik denk dat het een combinatie van AI met fysieke objecten is die echt een spannend moment in de tijd creëert. Weet je, je zou nooit echt een trend kunnen proberen en deze dan ook daadwerkelijk verspreiden. Dat was nooit mogelijk. Maar dankzij AI kunnen we nu echt heel snel door trends heen. We zijn in staat om trends samen te stellen, we zijn in staat om mensen te geven wat ze willen. Mijn naam is Guive Balooch en ik run de wereldwijde technologie-incubator bij L'Oréal. Ik werk al 15 jaar bij het bedrijf en het is mijn taak om de kruising te vinden tussen schoonheid en technologie.

Krachtig: L'Oreal is 's werelds grootste cosmeticabedrijf met Estee Lauder, Maybelline, Garnier en talloze andere consumentenmerken onder de bedrijfsparaplu.

Baloe: We zijn ongeveer acht jaar geleden begonnen met een augmented reality-app genaamd makeup genius. Dat was 's werelds eerste virtuele try-on. En sindsdien hebben we projecten gelanceerd rond gepersonaliseerde schoonheid, zoals personalisatie van huidverzorging, personalisatie van foundation. We hebben een UV-sensor gelanceerd in de Apple Store, een wearable zonder batterij die je UV-blootstelling kan meten. En nu we dat zijn, gaan we steeds meer richting massapersonalisatie en zoeken we manieren om technologieën zoals AR en AI te combineren om nieuwe fysieke objecten te creëren die magisch zijn voor schoonheidsconsumenten en hopelijk onze gebruikers verrukken.

Krachtig: En dit is moeilijker dan het klinkt. Het ontwerpen van ervaringen waarmee klanten make-up kunnen proberen in augmented reality biedt enorme technische uitdagingen voor gezichtsdetectie.

Baloe: Je moet detecteren waar het oog is en waar de wenkbrauw is. En het moet zo nauwkeurig zijn dat als het product erop zit, het er niet uitziet alsof het niet precies op je lip zit. En het is, het is grappig, want ik heb een academische achtergrond en ben gepromoveerd. Dus ik realiseerde me niet hoe ingewikkeld dat specifieke onderdeel van deze technologie is. Ik dacht: oh, het is oké. We halen gewoon de software. Het zal makkelijk zijn. We gaan er gewoon voor zorgen. Maar het blijkt nee, het is echt ingewikkeld omdat de lippen van mensen kunnen variëren in vorm, de kleur tussen je huidskleur en je lip kan ook heel verschillend zijn. En dus moet je een algoritme hebben dat het kan detecteren en ervoor kan zorgen dat het werkt op mensen met een zeer lichte tot een zeer donkere huid.

Krachtig: En hij zegt dat een van de grootste effecten van AI op de schoonheidsmarkt meer inclusiviteit zou kunnen zijn - iets waar de industrie al lang mee worstelt.

Baloe: Ik ben er vast van overtuigd dat inclusiviteit de toekomst van schoonheid is en inclusiviteit betekent dat ieder mens het recht heeft om een ​​product te hebben dat is wat ze voor zichzelf nodig hebben en om aan de wereld te laten zien hoe ze willen zijn tentoongesteld. En ik denk dat we alleen door dingen als AI en technologie dat niveau van persoonlijke relatie kunnen bereiken met de verlangens van mensen naar hun schoonheidsgewoonten.

Krachtig: Die gewoonten zijn gevormd rond onze huid. En huidskleur is historisch gezien een van de moeilijkste technische en culturele uitdagingen geweest.

Baloe: We hebben dit project gelanceerd, genaamd deze foundationblender. En toen ik voor het eerst aan dit project begon, dacht ik dat het heel eenvoudig zou zijn, want toen ik naar Home Depot ging, umm, ik ben niet echt een klusjesman, maar ik ging met mijn, mijn vader veel naar Home Depot en hij zou kopen verf. Hij zou bij de verf passen en ze zouden de verf daar gewoon maken. En ik zei, oké, is het zo makkelijk? Dus toen we voor het eerst met het project begonnen, realiseerden we ons, oké, je weet wel, je neemt gewoon een huidskleur van een stuk papier en je kunt de foundation gewoon matchen. En later realiseerde ik me dat onze huid niet als een muur is, het is biologisch weefsel dat verandert afhankelijk van wat voor soort huidskleur je hebt.

Krachtig: Kortom, het algoritme werkte niet.

Baloe: En dus moesten we stoppen en nog eens zes maanden besteden om het te verbeteren. Eerst deden we dat met een klein apparaatje dat je huidskleur meet, met behulp van een fysiek object, omdat je huidskleur moeilijk te meten is als je de huid niet echt aanraakt, omdat het licht de kleur van je huid kan veranderen. Dus afhankelijk van of je buiten of binnen bent, kan er een groot verschil zijn in de meting. Maar nu niet meer. Dankzij AI, denk ik meer en meer met AI, zullen we nauwkeurige metingen kunnen krijgen. We moeten ze testen en ervoor zorgen dat ze net zo goed werken als objecten. Maar als we eenmaal op een punt komen waarop we denken dat we daar in de buurt komen, dan kun je een aantal hele, hele grote uitdagingen oplossen. En bij foundation kan 50% van de vrouwen de juiste tint foundation niet vinden. En er is geen enkele manier dat het aantal producten in het schap dat ooit zal oplossen, want je zult altijd meer huidtinten in de wereld hebben dan producten die je op het schap kunt zetten.

Krachtig: En de toekomst zou een hele nieuwe klasse van gepersonaliseerde schoonheidstools kunnen openen.

Baloe: We kunnen objecten maken die, je weet wel, niet enorm zijn - in de hand - en ongelooflijke dingen kunnen doen. Net als in de toekomst zou je je kunnen voorstellen dat je automatisch oogschaduw op je ooglid kunt aanbrengen door het gezicht te detecteren en een voorwerp te hebben dat het kan afgeven.

Krachtig: Om die toekomst op te bouwen, heeft L'Oreal een bedrijf genaamd Modiface overgenomen, dat augmented reality-tools maakt voor meer dan 70 van 's werelds beste schoonheidsmerken.

Arabisch: Een grote stap die een paar jaar geleden plaatsvond, was van foto's naar live videosimulatie. Echt een zware prestatie technologisch, maar echt impactvol op de consumentenervaring. In plaats van een foto te moeten maken en te uploaden, konden ze een livevideo zien.

Krachtig: Parham Aarabi is de oprichter en CEO van Modiface.

Arabisch: De volgende grote stap die ik zie en waar ik erg enthousiast over ben, is een combinatie van AI-begrip van het gezicht, samen met onze simulatie. Dus niet alleen zeggen, oké, dus je kiest een lippenstift en zo ziet het eruit, maar zeggen, omdat je deze lippenstift hebt gekozen en omdat je, weet je, je blauwe ogen hebt, denken we dat deze oogschaduw er misschien bij past best.

Krachtig: Zijn achtergrond ligt in het volgen van gezichten en lippen.

Arabisch: En dus hadden we deze voorbeelddemo gemaakt waarin je iemands lippen kon volgen en die lippen kon ruilen met bijvoorbeeld een beroemdheid. Mijn mede-oprichter had het idee dat we, voordat we dit doen, eigenlijk wat veranderingen op de huid zouden moeten aanbrengen. En dus was het echt de combinatie van deze twee ideeën die de basis werd van Modiface.

Krachtig: De schoonheidsindustrie gedijt op de persoonlijke winkelervaring. En hoewel de verkoop via e-commerce al lang in de lift zit, is deze sector een stuk langzamer gegaan dan andere. Voor de context was shampoo de beste e-commerceverkoper in schoonheid van 2018. Maar de pandemie versnelt de zaken. De online verkoop bij beautygigant Sephora is dit jaar met 30 procent gestegen in de VS. En het werkt ook samen met Modiface om een ​​app te ontwikkelen die fungeert als een virtuele winkel, compleet met producthandleidingen en een augmented reality-schoonheidsbalie.

Arabisch: Je ziet een try-on-knop, je drukt erop en er gaat een venster open. Je ziet je eigen video in dat venster, maar met verschillende virtuele producten die worden getoond.

Krachtig: En het vertrouwen van de consument in deze gesimuleerde producten opbouwen, betekent een ervaring ontwikkelen die net zo naadloos is als in een spiegel kijken.

Arabisch: Als iemand daadwerkelijk een lippenstift en een haarkleur uitprobeert en vervolgens zichzelf op video opneemt in plaats van onze technologie te gebruiken en vervolgens een virtuele simulatie van die producten te hebben, zouden de twee niet van elkaar te onderscheiden moeten zijn. De vertraging binnen de toegepaste simulatie versus wanneer je naar je gezicht kijkt en bewegingen ziet, moet niet duidelijk zijn voor de gebruiker. En dus zijn dit enorme uitdagingen. Een daarvan is van realisme. Je wilt niet dat de eyeliner op iemands ogen flikkert en de tweede is om het zo snel te doen dat je op een website in live video geen vertraging merkt. Dit zijn dus grote, grote uitdagingen.

Krachtig: En het is meer dan alleen cosmetica. Elementen van gezichtsdetectie worden in de geneeskunde steeds vaker gebruikt om ziekten te diagnosticeren. En hij gelooft dat hun producten in de toekomst allerlei huidaandoeningen zullen detecteren.

Arabisch: Dus we hebben deze huidbeoordeling doorgedrukt door naar iemands afbeelding te kijken. En op basis daarvan, wetende welke huidverzorgingsproducten het beste voor hen zijn, en meer, hoe meer we dit doen en hoe beter we onze AI-systemen trainen, we ontdekken dat ze in het nauwkeurigheidsniveau toenemen dat overeenkomt met dat van dermatologen . En ik denk als je die lijn volgt, dat deze AI, die dermatologen eigenlijk niet kan vervangen, maar ze echt heeft geholpen als.. een objectief hulpmiddel dat naar iemands gezicht kan kijken en aanbevelingen kan doen.

Krachtig: Het voelt alsof er meer bewustzijn is van gezichtsherkenning van de risico's, onvolwassenheid en vooroordelen, maar ook de toegenomen aanwezigheid in ons leven en gewoon rauw potentieel. Voor mij lijkt het alsof we nog maar net aan de oppervlakte zijn gekomen - in deze rommelige digitale race naar iets anders en groots. En ik vroeg me af wat een van de uitvinders van dit alles zou vinden?

Een teek: Ik begon ongeveer een jaar nadat ik was afgestudeerd aan het menselijk brein te werken en maakte samen met mijn medewerkers enkele fundamentele doorbraken, die leidden tot de oprichting van een vakgebied genaamd de biometrische industrie en de eerste commercieel levensvatbare gezichtsherkenning. Daarom noemen mensen mij de grondlegger van gezichtsherkenning en de biometrische industrie.

Krachtig: Dat is Dr. Joseph Atick. Hij ontwikkelde in 1994 een van de eerste gezichtsherkenningsalgoritmen.

Een teek: Het algoritme voor hoe een menselijk brein bekende gezichten zou herkennen, werd duidelijk toen we wiskundig onderzoek deden aan het Institute for advanced study in Princeton.

Krachtig: Maar de technologie die nodig was om die gezichten vast te leggen, zat nog niet in ieders zak.

Een teek: Computers hadden toen nog geen camera's. Telefoons met camera's bestonden niet. We moesten de ogen voor de hersenen bouwen. We hadden hersenen, we dachten te weten hoe de hersenen signalen zouden analyseren, maar we hadden niet de ogen die de informatie en het visuele signaal naar de hersenen zouden krijgen.

Krachtig: Webcams kwamen in de jaren 90 en computers met videomogelijkheden kwamen een paar jaar later op de markt.

Een teek: En dat was een opwindende tijd, want ineens hadden de hersenen die we hadden gebouwd eindelijk het paar ogen dat nodig was om te zien.

Krachtig: Dit was de doorbraak die hij en zijn team nodig hadden om hun concept tot leven te brengen. Dus begonnen ze te coderen.

Een teek: het was een lange periode van maanden van programmeren en falen en programmeren en falen

Krachtig: Maar uiteindelijk…

Een teek: En op een avond, vroeg in de ochtend, hadden we net een versie van het algoritme afgerond. We hebben de broncode ingediend voor compilatie om een ​​runcode te krijgen. En we stapten uit, ik stapte uit om naar de wasruimte te gaan. En toen ik de kamer weer binnenstapte, zag het mijn gezicht, haalde het van de achtergrond en het zei dat ik Joseph zag. En dat was het moment waarop het haar op de rug – ik voelde alsof er iets was gebeurd. Wij waren getuige. En ik begon, eh, de andere mensen op te roepen die nog in het lab waren en elk van hen zou de kamer binnenkomen. En ik zou zeggen, het zou zeggen, ik zie Norman. Ik zou Paul zien, ik zou Joseph zien. En we zouden om de beurt door de kamer rennen om te zien hoeveel hij er in de kamer kan zien.

Krachtig: Ze hadden iets gebouwd dat nog nooit eerder was gebouwd. Maanden van rekenen en coderen en lange nachten leken hun vruchten af ​​te werpen. Maar binnen een paar jaar sloeg die opwinding om in bezorgdheid.

Een teek: Mijn, mijn bezorgdheid over de technologie die ik heb helpen creëren en uitvinden begon heel snel nadat ik het had uitgevonden. Ik zag een toekomst waarin onze privacy in gevaar zou komen als we geen beschermingsmaatregelen zouden nemen om misbruik van deze krachtige technologie te voorkomen.

Krachtig: En daar wilde hij iets aan doen.

Een teek: Dus in 1998 lobbyde ik bij de industrie en ik zei: we moeten principes opstellen voor verantwoord gebruik. En hier werd in 1998 een organisatie genaamd IBIA geboren als branchevereniging om verantwoord gebruik te promoten. Eh, en dus was ik de oprichter van die organisatie. En ik voelde me een tijdje goed omdat ik vond dat we het goed hadden gedaan. Ik had het gevoel dat we de technologie hadden uitgevonden, maar toen hebben we een code voor verantwoord gebruik ingevoerd die gevolgd moet worden door wat de implementatie ook is. Die code heeft de tand des tijds echter niet doorstaan. En de reden hierachter is dat we de opkomst van sociale media niet hebben voorzien.

Krachtig: Gezichtsherkenning is gebaseerd op een database met afbeeldingen. De omvang, kwaliteit en privacyvoorwaarden van deze database bepalen grotendeels hoe veilig of opdringerig de technologie is. In 1998 bouwde Atick zijn databases door handmatig duizenden foto's te scannen en ze te taggen met namen. Het was vervelend en beperkt in omvang.

Een teek: We hebben het beest uit de zak gehaald door het miljarden gezichten te voeren en het te helpen door onszelf te taggen. We bevinden ons nu in een wereld waar machine learning nu de opkomst mogelijk maakt van meer dan 400 verschillende algoritmen voor gezichtsherkenning in de wereld. Daarom is elke hoop om te controleren en te eisen dat iedereen verantwoordelijk is in hun gebruik van gezichtsherkenning moeilijk.

Krachtig: En dit wordt nog verergerd door scraping, waarbij een database wordt gemaakt door het hele internet te scannen op openbare foto's.

Een teek: En dus begon ik in 2011 in paniek te raken en ik schreef een opiniestuk waarin ik zei dat het tijd is om op de paniekknop te drukken, omdat de wereld een richting op gaat waarin gezichtsherkenning alomtegenwoordig zal zijn en gezichten overal beschikbaar zullen zijn in, in, in databases. De rekenkracht wordt zo enorm enorm, dat we potentieel miljarden mensen zouden kunnen herkennen. En toen zeiden mensen dat ik een alarmist was, maar ze beseffen dat het precies is wat er vandaag gebeurt.

Krachtig: Dus in zekere zin lobbyt hij tegen zijn eigen uitvinding, ook al gebruikt hij nog steeds biometrie om dingen te helpen bouwen waarvan hij denkt dat ze het grotere goed ten goede kunnen komen, zoals digitale ID voor mensen in ontwikkelingslanden.

Een teek: Het huiveringwekkende effect is iets dat onvergeeflijk is. Als ik niet naar buiten kan op straat, omdat ik geloof dat iemand een iPhone gebruikt, kan hij een foto van mij maken en mij verbinden met mijn online profiel en, deze online en offline verbinding is, is een gevaarlijk iets. En het gebeurt nu.

Krachtig: En hij denkt dat we dringend wat juridische basisregels nodig hebben.

Een teek: En dus is het niet langer een technologisch probleem. We kunnen deze krachtige technologie niet in bedwang houden door middel van technologie. Er moeten een soort wettelijke kaders zijn.

Krachtig: Zoals hij het ziet, zal de technologische voorsprong zich blijven ontwikkelen - met AI op de voorgrond. Maar de mensen die het bouwen en gebruiken? Ze staan ​​centraal.

Een teek: Ik geloof dat er enige harmonie moet zijn tussen wat technologie voor ons kan doen en ons helpt om waardig te leven en gemakkelijker te leven en contact te maken met de mensen van wie we houden, maar tegelijkertijd moet het binnen onze moraal en onze verwachtingen zijn. zoals de mens het toelaat.

Krachtig: Met andere woorden, nogmaals ... het lijkt aan ons. Deze aflevering is gerapporteerd en geproduceerd door mij, Anthony Green, Emma Cillekens, Tate Ryan-Mosley en Karen Hao. We worden geredigeerd door Michael Reilly en Gideon Lichfield. Ook dank aan Kate Kaye met de Banned in PDX-podcast. Dat was het voor seizoen één. Heel erg bedankt dat je ervoor hebt gekozen om je tijd bij ons door te brengen. We zien je hier terug in het nieuwe jaar tot dan fijne feestdagen en... Bedankt voor het luisteren, ik ben Jennifer Strong.

[TR-ID]

zich verstoppen