211service.com
Podcast: Het verhaal van AI, verteld door de mensen die het hebben uitgevonden
Welkom bij Ik was daar toen , een nieuw mondeling geschiedenisproject van de In machines waarop we vertrouwen podcasten. Het bevat verhalen over hoe doorbraken in kunstmatige intelligentie en computers plaatsvonden, zoals verteld door de mensen die er getuige van waren. In deze eerste aflevering ontmoeten we Joseph Atick, die hielp bij het opzetten van het eerste commercieel levensvatbare gezichtsherkenningssysteem.
Credits:
Deze aflevering is geproduceerd door Jennifer Strong, Anthony Green en Emma Cillekens met hulp van Lindsay Muscato. Het is bewerkt door Michael Reilly en Mat Honan. Het is gemixt door Garret Lang, met sounddesign en muziek van Jacob Gorski.
Volledig transcript:
[TR-ID]
Jennifer: ik ben Jennifer Strong, presentator van In machines waarop we vertrouwen .
Ik wil je iets vertellen over iets waar we hier achter de schermen al een tijdje aan werken.
Het heet Ik was daar toen .
Het is een oral history-project met de verhalen over hoe doorbraken in kunstmatige intelligentie en computers plaatsvonden... zoals verteld door de mensen die er getuige van waren.
Joseph Atick: En toen ik de kamer binnenkwam, zag het mijn gezicht, haalde het van de achtergrond en het zei: ik zie Joseph en dat was het moment waarop het haar op de rug... Ik voelde alsof er iets was gebeurd. Wij waren getuige.
Jennifer: We trappen af met een man die hielp bij het creëren van het eerste gezichtsherkenningssysteem dat commercieel levensvatbaar was... in de jaren '90...
[IMWT-ID]
Ik ben Joseph Atick. Vandaag ben ik de uitvoerend voorzitter van ID for Africa, een humanitaire organisatie die zich richt op het geven van een digitale identiteit aan mensen in Afrika, zodat ze toegang hebben tot diensten en hun rechten kunnen uitoefenen. Maar ik ben niet altijd op humanitair gebied geweest. Nadat ik mijn doctoraat in de wiskunde had behaald, heb ik samen met mijn medewerkers enkele fundamentele doorbraken gemaakt, die hebben geleid tot de eerste commercieel levensvatbare gezichtsherkenning. Daarom noemen mensen mij de grondlegger van gezichtsherkenning en de biometrische industrie. Het algoritme voor hoe een menselijk brein bekende gezichten zou herkennen, werd duidelijk terwijl we onderzoek deden, wiskundig onderzoek, terwijl ik aan het Institute for Advanced Study in Princeton zat. Maar het was verre van een idee te hebben hoe je zoiets zou implementeren.
Het was een lange periode van maanden van programmeren en falen en programmeren en falen. En op een nacht, vroeg in de ochtend, hadden we eigenlijk net een versie van het algoritme voltooid. We hebben de broncode ingediend voor compilatie om een runcode te krijgen. En we stapten uit, ik stapte uit om naar de wasruimte te gaan. En toen ik de kamer weer binnenstapte en de broncode door de machine was gecompileerd en was teruggekeerd. En meestal nadat je het hebt gecompileerd, wordt het automatisch uitgevoerd, en toen ik de kamer binnenkwam, zag het een mens die de kamer binnenkwam en het zag mijn gezicht, haalde het van de achtergrond en zei: ik zie Joseph. en dat was het moment waarop het haar op de rug - ik voelde alsof er iets was gebeurd. Wij waren getuige. En ik begon een beroep te doen op de andere mensen die nog in het lab waren en elk van hen zou de kamer binnenkomen.
En het zou zeggen, ik zie Norman. Ik zou Paul zien, ik zou Joseph zien. En we zouden om de beurt door de kamer rennen om te zien hoeveel hij er in de kamer kan zien. Het was, het was een moment van de waarheid waarop ik zou zeggen dat een aantal jaren van werk uiteindelijk tot een doorbraak hebben geleid, ook al was er in theorie geen extra doorbraak vereist. Alleen al het feit dat we erachter kwamen hoe we het moesten implementeren en die mogelijkheid uiteindelijk in actie zagen, was zeer, zeer de moeite waard en bevredigend. We hadden een team ontwikkeld dat meer een ontwikkelingsteam is, geen onderzoeksteam, dat erop gericht was al die mogelijkheden in een pc-platform te stoppen. En dat was de geboorte, echt de geboorte van commerciële gezichtsherkenning, zou ik zeggen, in 1994.
Mijn bezorgdheid begon heel snel. Ik zag een toekomst waarin er geen plaats was om me te verstoppen met de verspreiding van camera's overal en de vercommercialisering van computers en de verwerkingscapaciteiten van computers die steeds beter worden. En dus lobbyde ik in 1998 bij de industrie en ik zei: we moeten principes opstellen voor verantwoord gebruik. En ik voelde me een tijdje goed, omdat ik vond dat we het goed hadden gedaan. Ik vond dat we een code voor verantwoord gebruik hebben ingevoerd die moet worden gevolgd door wat de implementatie ook is. Die code heeft de tand des tijds echter niet doorstaan. En de reden hierachter is dat we de opkomst van sociale media niet hebben voorzien. Op het moment dat we de code in 1998 tot stand brachten, zeiden we dat het belangrijkste element in een gezichtsherkenningssysteem de gelabelde database van bekende mensen was. We zeiden: als ik niet in de database sta, is het systeem blind.
En het was moeilijk om de database te bouwen. We konden hoogstens duizend 10.000, 15.000, 20.000 bouwen omdat elk beeld moest worden gescand en met de hand moest worden ingevoerd - de wereld waarin we vandaag leven, we bevinden ons nu in een regime waarin we het beest uit de zak hebben gelaten door het miljarden gezichten te voeden en het te helpen door onszelf te taggen. Um, we zijn nu in een wereld waar het moeilijk is om te controleren en te eisen dat iedereen verantwoordelijk is voor het gebruik van gezichtsherkenning. En tegelijkertijd is er geen gebrek aan bekende gezichten op internet omdat je gewoon kunt schrapen, zoals recentelijk door sommige bedrijven is gebeurd. En dus begon ik in 2011 in paniek te raken en ik schreef een opiniestuk waarin ik zei dat het tijd is om op de paniekknop te drukken omdat de wereld een richting op gaat waarin gezichtsherkenning alomtegenwoordig zal zijn en gezichten overal beschikbaar zullen zijn in databanken.
En toen zeiden mensen dat ik een alarmist was, maar nu beseffen ze dat het precies is wat er vandaag gebeurt. En waar gaan we vanaf hier heen? Ik heb gelobbyd voor wetgeving. Ik heb gelobbyd voor juridische kaders die het een verplichting voor je maken om iemands gezicht te gebruiken zonder hun toestemming. En dus is het niet langer een technologisch probleem. We kunnen deze krachtige technologie niet met technologische middelen in bedwang houden. Er moeten een soort wettelijke kaders zijn. We kunnen niet toestaan dat de technologie te veel op ons vooruitloopt. Vooruit op onze waarden, vooruit op wat we acceptabel vinden.
De kwestie van toestemming blijft een van de moeilijkste en meest uitdagende zaken als het gaat om technologie, iemand op de hoogte stellen betekent niet dat het genoeg is. Voor mij moet toestemming worden geïnformeerd. Ze moeten de gevolgen begrijpen van wat het betekent. En niet alleen om te zeggen, nou, we hebben ons aangemeld en dit was genoeg. We hebben het de mensen verteld, en als ze niet wilden, hadden ze overal heen kunnen gaan.
En ik merk ook dat het zo gemakkelijk is om verleid te worden door flitsende technologische kenmerken die ons op korte termijn een voordeel in ons leven kunnen geven. En dan later erkennen we dat we iets hebben opgegeven dat te kostbaar was. En tegen dat moment hebben we de bevolking ongevoelig gemaakt en komen we op een punt waarop we ons niet meer kunnen terugtrekken. Dat is waar ik me zorgen over maak. Ik maak me zorgen over het feit dat gezichtsherkenning door het werk van Facebook en Apple en anderen. Ik zeg niet dat het allemaal onwettig is. Veel ervan is legitiem.
We zijn op een punt aangekomen waarop het grote publiek blasé kan zijn geworden en ongevoelig kan worden omdat ze het overal zien. En misschien stap je over 20 jaar je huis uit. Je zult niet langer de verwachting hebben dat je dat niet zou zijn. Het wordt niet herkend door tientallen mensen die je onderweg tegenkomt. Ik denk dat op dat moment het publiek zeer gealarmeerd zal zijn omdat de media zullen gaan berichten over gevallen waarin mensen werden gestalkt. Mensen werden het doelwit, mensen werden zelfs geselecteerd op basis van hun vermogen op straat en ontvoerd. Ik denk dat dat een grote verantwoordelijkheid van ons is.
En dus denk ik dat de kwestie van toestemming de industrie zal blijven achtervolgen. En totdat die vraag een resultaat wordt, zal het misschien niet worden opgelost. Ik denk dat we beperkingen moeten stellen aan wat er met deze technologie kan worden gedaan.
Mijn carrière heeft me ook geleerd dat te veel voorlopen niet goed is, omdat gezichtsherkenning, zoals we die nu kennen, eigenlijk in 1994 is uitgevonden. Maar de meeste mensen denken dat het is uitgevonden door Facebook en de machine learning-algoritmen, die verspreidt zich nu over de hele wereld. Ik moest op een bepaald moment eigenlijk aftreden als openbare CEO omdat ik het gebruik van technologie die mijn bedrijf zou gaan promoten aan het terugdringen was uit angst voor negatieve gevolgen voor de mensheid. Dus ik vind dat wetenschappers de moed moeten hebben om in de toekomst te projecteren en de gevolgen van hun werk te zien. Ik zeg niet dat ze moeten stoppen met het maken van doorbraken. Nee, je moet voluit gaan, meer doorbraken maken, maar we moeten ook eerlijk zijn tegen onszelf en in wezen de wereld en de beleidsmakers erop wijzen dat deze doorbraak plussen en minnen heeft. En daarom hebben we bij het gebruik van deze technologie een soort van begeleiding en kaders nodig om ervoor te zorgen dat het wordt gekanaliseerd voor een positieve toepassing en niet voor een negatieve.
Jennifer: Ik was erbij toen... is een oral history-project met de verhalen van mensen die getuige zijn geweest van doorbraken in kunstmatige intelligentie en computergebruik.
Heeft u een verhaal te vertellen? Ken je iemand die dat doet? Stuur ons een e-mail op [email protected].
[MIDROLL]
[CREDITS]
Jennifer: Deze aflevering is opgenomen in New York City in december 2020 en geproduceerd door mij met hulp van Anthony Green en Emma Cillekens. We zijn bewerkt door Michael Reilly en Mat Honan. Onze mix engineer is Garret Lang... met geluidsontwerp en muziek van Jacob Gorski.
Bedankt voor het luisteren, ik ben Jennifer Strong.
[TR-ID]