Waarom mensen misschien nooit zelfrijdende auto's gebruiken

Geautomatiseerd rijden wordt steeds beter, maar er ontbreekt nog een essentieel ingrediënt: vertrouwen. Gastvrouw Jennifer Strong ontmoet ingenieurs die een nieuwe communicatietaal ontwikkelen tussen geautomatiseerde voertuigen en hun menselijke inzittenden, een cruciaal ontbrekend stuk in de strijd naar een toekomst zonder bestuurder.

We ontmoeten:

• Dr. Richard Corey en Dr. Nicholas Giudice, oprichters van het VEMI Lab aan de Universiteit van Maine
• Ryan Powell, UX Design & Research bij Waymo.
• Rashed Haq, VP Robotics bij Cruise

Credits:

Deze aflevering werd gerapporteerd en geproduceerd door Jennifer Strong, Tanya Basu, Emma Cillekens en Tate Ryan-Mosley. We hadden hulp van Karen Hao en Benji Rosen. We worden geredigeerd door Michael Reilly en Gideon Lichfield.

Transcript van de volledige aflevering:

Jennifer Sterk: Auto's zonder bestuurder worden al tientallen jaren in films opgeroepen en besproken. De eerste pogingen om ze te maken waren ongeveer een eeuw geleden. En zeker, ze zijn niet meer zo ongelooflijk als in Herbie The Love Bug uit de jaren 60, waar deze zelfrijdende auto een eigen wil heeft:

[Herbie-clip]: Ik heb je niet hierheen gebracht. Het is deze vervelende kleine auto.

Jennifer Sterk: Maar hoewel de kunstmatige intelligentie die de technologie aanstuurt met grote sprongen vooruit is gegaan - en we hebben nu enkele zelfrijdende taxi's in de VS en China - is de communicatie tussen de auto en de mens erin niet echt ver gekomen sinds de dagen van Herbie die wegrijdt zonder toestemming van de bestuurder.

En wat meer is, de piepjes en piepjes die bedoeld zijn om ons iets te vertellen over wat de auto doet, vertellen ons niet intuïtief wat er aan de hand is.

Om eerlijk te zijn, dat is niet alleen een probleem met geautomatiseerde voertuigen - het duikt op in de meeste auto's met geautomatiseerde elementen. Mijn auto pingt naar mijn passagier om een ​​veiligheidsgordel om te doen terwijl er alleen maar een handtas is.

Ondanks de inspanningen van programmeurs is er nog steeds een fundamenteel probleem: auto's en mensen spreken niet dezelfde taal.

Dit is allemaal van belang omdat dit geen videogame of telefoon is die de wiskundige taal van enen en nullen probeert te interpreteren op een manier die logisch is in menselijke taal. Dit is een bewegend ding dat ons lichaam van plaats a naar plaats b draagt. Als er iets misgaat, kan het ook echt mis gaan.

Ik ben Jennifer Strong en in deze aflevering duiken we in een aantal lastige vragen over bruikbaarheid en vertrouwen.

Stel je voor dat je op het punt staat het huis te verlaten - je klautert om naar een vergadering met een aantal klanten te gaan. Je wilt van tevoren met je baas praten, maar je moet ook je kinderen naar school krijgen. Jij en de kinderen worstelen de deur uit en gaan naar de auto, koffie en toast in de hand, rugzakken en waterflessen op sleeptouw. Het zou leuk zijn om een ​​automatische piloot in te stellen. Maar zou je het vertrouwen? Kun je je echt voorstellen dat je het stuur loslaat?

En hoe weet je welk scenario minder veilig is? Het onvermijdelijke multitasken en kindbeheer tijdens het rijden? Of een deel van de besturing overdragen aan een machine?

De technologie die we nu hebben, zoals de automatische piloot van Tesla, is niet geavanceerd genoeg om echt autonoom te zijn. Mensen in het veld noemen het automatisch rijden - er is een mens nodig om te controleren wat de auto doet - we weten dat er minstens vijf mensen zijn omgekomen bij ongevallen met automatisch rijden terwijl iemand achter het stuur niet goed oplette.

Maar afgeleide automobilisten zijn gevaarlijk in elk soort auto, en in de VS sterven nog steeds elk jaar zo'n 30 tot 40 duizend mensen bij ongevallen.

Jennifer Sterk: Als ik bij mij in de buurt een wandeling maak, zie ik mijn beste vriendin vaak op haar stoep met haar dertienjarige kind. Het is een typische stedelijke scène... behalve dit volgende deel.

Hannah : Je gaat naar de besturing... dit laadt niet...

Jennifer Sterk: Hannah gebruikt een app op de iPhone van haar moeder om hun elektrische auto naar een parkeerplaats te trekken waar ze hem kunnen aansluiten.

Hannah : Nou, dit is een kwestie van bruikbaarheid ... het laadt niet.

kameel : Dat gebeurt meerdere keren wanneer we de summon-functie voor het eerst gaan implementeren ...

Jennifer Sterk: Kinderen groeien op met apps en het is voor hen vaak intuïtiever hoe deze dingen werken dan voor hun ouders. Ze zijn ook niet zo gemakkelijk gefrustreerd door nieuwe technologie.

Hanna: Daar gaan we. Oke. Dus, het toont je een foto van de auto. Je duwt gewoon welke kant je op wilt en houdt hem vast, en hij zou moeten bewegen. Maar het deed het niet... [giechelen] ...

Jennifer Sterk: Autofabrikant Tesla heeft een automatische pilootfunctie waarmee bestuurders onder meer auto's op parkeerplaatsen kunnen oproepen om ze op te halen.

Oh! Daar gaat het.

Hannah : Dus de lichten gaan aan en je kunt het stuur in de auto zien bewegen ... en ook denkt het dat ons fietsenrek een andere auto is, dus we kunnen het hiermee niet omkeren.

Jennifer Strong: Autopilot biedt ook een meer geavanceerde versie van cruise control... hoewel het ook niet perfect is.

kameel : Maar ik ben gaan beseffen dat het zal stoppen of vertragen op basis van de persoon voor je. Als je de inhaalstrook niet in kunt. Je moet echter nog steeds alert zijn, want het stopt dood op een snel rijdende snelweg. Om redenen... geen reden. Niet dat ik kan zeggen. Ik ben dus erg wantrouwend. Het staat me niet toe om veel te ontspannen. Laat mijn voet een pauze nemen.

kameel : En als het met me wil praten over zijn veiligheidsmaatregelen, zou ik willen dat het gewoon duidelijk zou spreken. In plaats van piep piep… probeer er doorheen te scrollen… wat de [piep] betekent dat? Ik weet het niet. [lachend]

Hannah : Wanneer we software-updates uitvoeren, geeft dit ons een overzicht van wat er is gedaan. Maar zoals mijn moeder al zei, het is niet in gewoon Engels. Het is heel moeilijk te begrijpen. Dus je moet er gewoon achter komen wat er is veranderd terwijl je bezig bent, wat gevaarlijk kan zijn. Als het iets belangrijks is, weet je niet hoe je de verwarming aan moet zetten of de automatische piloot moet inschakelen. En ik weet ook dat ik, toen ik voorin begon te rijden, een soort copiloot ben geworden en dat er geen voor de hand liggende manier is om de lettergrootte aan te passen. Mijn moeder kan de tijd of de navigatie niet lezen. Ze heeft een heel goed gezichtsvermogen, maar het blijft moeilijk voor haar. En ik moet mijn ogen van de weg afhouden. Als ik zou rijden, zou ik het waarschijnlijk ook niet kunnen. Het is dus niet erg gebruiksvriendelijk.

Jennifer Sterk: Het valt niet te ontkennen dat we echte problemen hebben in deze relatie - het is gewoon een kwestie van: hoe ze worden aangesproken, zoals onderzoekers die zich daarop richten aan de Universiteit van Maine maar al te goed weten.

Richard Corey : Van de menselijke kant is er weinig discussie. En, en ik zal de eerste zijn om dit te zeggen... Goed! Want nummer één, ik wil ervoor zorgen dat de auto op de weg blijft. Dat is, dat is ons nummer één ding. Zorg ervoor dat de techniek goed is en dat ze op de weg blijven ... maar we komen hier heel snel op een punt waar we erin moeten komen, en we moeten uitzoeken wat dat betekent de menselijke kant, wat hebben we nodig?

Jennifer Sterk: Richard Corey is de directeur van het VEMI Lab aan de Universiteit van Maine, dat zich richt op mens-machine-interacties.

Richard Corey : We begonnen er dieper op in te gaan, realiseerden ons dat de melding op een Tesla, die iedereen op dit moment beschouwt als de leidende in autonome voertuigen, de melding om je te laten weten dat de Tesla geen controle meer heeft, vier pieptonen is. En we dachten dat dat niet genoeg informatie leek [lacht] gezien de neuro-verwerking en, en dat soort dingen waar we doorheen gaan als we een auto besturen en ons bewust zijn van dingen om ons heen en...

Nicholas Giudice : Daarop aansluitend realiseerden we ons dat...

Jennifer Sterk: En dat is de mede-oprichter van het lab, Nicholas Giudice .

Nicholas Giudice : Hoewel mensen ook niet echt nadenken over de menselijke kant van de dingen en naar alle menselijke factoren kijken, is er wat onderzoek gedaan, meestal enquêteonderzoek dat vrij consequent heeft aangetoond dat mensen het idee van autonome voertuigen een beetje leuk vinden. En als je dan zegt, zou je er graag eens in willen stappen? We hebben er een net buiten het lab. Ze zeggen: Oh nee, absoluut niet. Ik bedoel, dat is dat ze dit soort angst voor de technologie tonen, angst voor hoe het werkt. Angst om het niet te weten, een soort controleverlies. Want autorijden geeft je het gevoel van, weet je, je hebt controle over het proces, je hebt controle over wat er gebeurt. En als je in een autonoom voertuig stapt, lijken mensen zich daar niet alleen zorgen over te maken, ze hebben er geen controle over, maar ze weten ook niet waarom het voertuig doet wat het doet.

Jennifer Sterk: En dus, om te helpen begrijpen hoe deze vertrouwensrelatie zou kunnen functioneren, bestuderen ze hoe mensen het doen.

Nicolaas Giudice: Als mensen elkaar vertrouwen, is dat omdat ze hebben geleerd samen te werken. Ze leerden begrijpen wat ze van elkaar nodig hebben. En dus dit idee van samenwerking tussen menselijke voertuigen, het is een soort van onderliggend raamwerk voor ons onderzoek. Gedeeltelijk krijgen we vertrouwen door te zeggen of we een samenwerkingsproces kunnen opbouwen waarbij de mens kan begrijpen hoe hij moet communiceren met en wat het voertuig nodig heeft, en het voertuig meer begrijpt over wat de mens doet en wat hij nodig heeft. Dat proces, dat samenwerkingsproces, bouwt vertrouwen op. En dus bouwen we in wezen vertrouwen op door betere communicatie.

Jennifer Sterk: Vertrouwen is niet tastbaar. Dus hoe meten wetenschappers, gericht op gebruikerservaring, het?

Nicholas Giudice : Zijn ze ontspannen? We kunnen dit bekijken vanuit fysiologische metingen. Dus je kunt kijken naar hartslag of eh, huidgeleiding. Kijk hoe hun aandacht verandert, en zo een soort van vertrouwen krijgen door middel van deze verschillende soorten tools waarvan we denken dat het een innovatieve manier is om dit te doen. Want tot nu toe is daar via enquêtes naar gekeken, toch? Dus je laat mensen deze enquêtes invullen en dat is een goede manier om naar aspecten van vertrouwen te kijken, maar het is echt lang niet zo direct. Dus als we de kwalitatieve en kwantitatieve en gedrags- en fysiologische maatregelen combineren, krijgen we echt een veel grotere, soort robuustere manier om op verschillende niveaus naar vertrouwen te kijken.

Jennifer Sterk: Hun persoonlijke tests zijn opgehouden door het coronavirus. Maar in wezen hoopten ze dit te doen:

Richard Corey : We zouden een jaar lang een autonoom voertuig gebruiken op een openbare plaats. En we gingen kijken wat we erin kunnen stoppen. Kunnen we daar camera's plaatsen? Kunnen we daar mensen hebben om observatiestudies te doen? Kunnen we sensoren in de stoel plaatsen om uit te vinden, ik weet niet, hoeveel mensen wiebelen als ze nerveus zijn of zoiets. Alle gegevens die we zouden kunnen verzamelen om het proces te starten om uit te zoeken wie zich prettig voelt en wie niet.

Jennifer Sterk: Onderzoekers willen nagaan of mensen comfortabeler en vertrouwder worden naarmate auto's evolueren, en uiteindelijk het vermogen krijgen om uit te leggen wat ze doen en waarom.

Maar zelfs als je vertrouwen kunt meten, is het niet gelijk geschapen. En het wordt niet door iedereen op dezelfde manier gegeven.

Nicholas Giudice : Mensen zijn in sommige opzichten meer bereid, vooral iemand zoals ik die aangeboren blind is, ik ben meer bereid om enkele van de onbekende risico's te nemen waar mensen zich zorgen over maken met autonome voertuigen. Want ik heb zoiets van, ja! Dit zorgt ervoor dat ik kan komen waar ik wil wanneer ik wil. Weet je, en je zou busroutes kunnen hebben, je kunt paratransit hebben, maar dan ben je gebonden aan zeer specifieke dienstregelingen. Dit is een economisch haalbare en gewoon echt bevrijdende manier om je te kunnen verplaatsen. En dus die verbinding met onafhankelijkheid, die verbinding met kwaliteit van leven is verbonden met vertrouwen, om een ​​deel van het vertrouwen te stellen is ook gewoon weten dat het gelijk is, ze vertrouwen erop dat het iets is dat kan werken, want op dit moment, zo veel van de systemen die er zijn werken niet.

Jennifer Sterk: Hetzelfde geldt voor mensen die ouder worden of problemen hebben waardoor ze niet kunnen autorijden.

Dus, wat kunnen we leren door te kijken hoe mensen iemand achter het stuur vertrouwen - en hoe repliceer je die relatie als het gaat om mensen en auto's zonder bestuurder?

Richard Corey : Wij mensen kunnen fysiek zien of iemand nerveus is.

Jennifer Strong: Richard Corey.

Richard Corey : Ze grijpen het dashboard vast, spijkeren erin, dat soort dingen, en ze zijn nerveus en dan kun je aanpassen hoe je rijdt. Je kunt zelfs zeggen: Hé, het is oké. Ik bedoel, ik reed eens in een hele zware sneeuwstorm en iedereen in de auto raakte in paniek. En ik had zoiets van, kijk, weet je, het is in orde. Ik heb dit nog steeds onder controle. En het zijn de kleine menselijke dingen die je doet die verbinden. Wat kan de auto of computer, wat het ook is, tegen je zeggen dat zegt: Hé, het is oké. Dit is waarom ik dit doe. We gaan naar de rechterrijstrook, want het is erg moeilijk en we moeten een beetje vertragen, maar we zien vandaag niets van die bestaande technologie. En dat hebben we als mens nodig.

Jennifer Sterk: En zijn collega Nicholas Giudice zegt dat communicatie zo zou kunnen werken...

Nicholas Giudice : Er kan een avatar zijn, alleen dingen waarvan je kunt beginnen te denken aan het, het, het voertuig in termen van het hebben van mensachtige eigenschappen waar het niet alleen deze black box-automatisering is waar je gewoon... in zit .

Jennifer Sterk: De al lang bestaande koploper in deze race om autonome voertuigen te bouwen is een bedrijf genaamd Waymo, dat vroeger bekend stond als het Google-project voor zelfrijdende auto's.

Het werd 's werelds eerste robo-taxi in 2018, nadat een vloot zelfrijdende taxi's op de weg was in Phoenix, Arizona. En ondanks het feit dat persoonlijke ritten tijdens de wereldwijde pandemie moeten worden opgeschort, leggen hun auto's nog steeds 20 miljoen virtuele mijlen per dag af in simulatoren.

Het is ook een van de weinige bedrijven die nu zelfrijdende vrachtwagens testen in Texas.

Bij Waymo ziet communicatie eruit als tv-schermen, geluidseffecten... en menselijke stemmen...

Ryan Powell : En dus weten we vandaag dat wanneer je een passagier bent in een auto die wordt bestuurd door een mens, er veel communicatie plaatsvindt tussen jou en die bestuurder die helpt om vertrouwen op te bouwen.

Jennifer Sterk: Ryan Powell leidt het onderzoeks- en ontwerpteam voor gebruikerservaringen.

Ryan Powell : ...dus het kan directe communicatie zijn. Zoals je een chauffeur zou kunnen vragen welke route we nemen of waarom je niet beweegt, is het licht groen, maar het kan ook indirect zijn. Alsof je zou kunnen opmerken dat die menselijke bestuurder zijn handen op het stuur kan verplaatsen net voordat hij klaar is om een ​​bocht naar links te maken. Maar we wisten al heel vroeg dat we een communicatiemethode in onze voertuigen nodig hadden om vertrouwen op te bouwen, zodat rijders zich veilig en geïnformeerd konden voelen ... daarom besteden we veel tijd aan het nadenken over de visuele interface in onze auto. we proberen te visualiseren wat de auto kan zien, weet je, hoe communiceren we de bedoeling van de auto in welke situaties hebben rijders aanvullende informatie nodig, wat is het juiste informatieniveau.

Jennifer Sterk: Want aan de andere kant proberen ze de renners ook niet te overladen met te veel informatie.

Ryan Powell : Dus wat u hoort wanneer u een product of dienst gebruikt, moet net zoveel aandacht krijgen als wat u ziet. Dus als we nadenken over onze gebruikerservaring, hebben we besloten om niet alleen te ontwerpen voor wat je kunt zien, maar ook voor wat je ook kunt horen.

Dit is dus wat we een soort van welkomstrack noemen, dat je zou horen als de deuren opengaan en als je je een weg baant in het voertuig, maar spraakfeedback stelt ons in staat om complexere informatie over te brengen en ook om ook berichten te personaliseren. Dit is dus een voorbeeld van wat een berijder zou horen als de auto begint te bewegen. Dus woestijnbriespark is natuurlijk de bestemming die de rijder daar heeft ingevoerd. En we kunnen dat opnieuw personaliseren, die stem door, eh, de bestemming te nemen die ze in de app hebben ingevoerd en de rijder alleen maar te versterken dat we weten waar de bestemming is, waar we heen gaan terwijl we, als de auto om daadwerkelijk te bewegen.

Jennifer Sterk: Iets wat ik me afvroeg, is wat er gebeurt als je in slaap valt in een taxi zonder bestuurder? Hoe maakt de auto - of de helper zoals Waymo het noemt - je wakker?

Ryan Powell : We geven je een seintje wanneer, eh, wanneer je ongeveer een minuut verwijderd bent van je, je, bestemming en het idee dat er op een bepaalde manier is, als je een beetje in slaap bent gevallen of bent ingedommeld, dat is waar we een stem gebruiken. Dus er klinkt een stem die je laat weten dat je over ongeveer een minuut aankomt. En het andere ding dat het dient als een, als herinnering om je spullen een beetje te verzamelen, als je iets op de andere stoelen hebt gezet en zodat je dat niet achterlaat, want nogmaals, je doneert Ik heb niet die menselijke chauffeur die rondkijkt en zegt: Hé, je bent je jas vergeten. Of, weet je, je bent je, je, um, je telefoon of je tas vergeten. En dus gebruiken we in dat geval wel stem. En we denken ook, eh, weet je, dat dat iemand zou helpen wakker te worden als ze een beetje waren ingedommeld terwijl ze aan het rijden waren.

Jennifer: Er is veel onderzoek gedaan naar het kiezen van een stem voor het autonome voertuig die rijders zouden vertrouwen.

Ryan Powell : We krijgen vaak de vraag waarom een ​​vrouwenstem versus een mannenstem leuk is, maar de beslissing voor ons ging niet over geslacht. Het ging meer om het vinden van de best klinkende stem die bij die principes paste. En dus uiteindelijk was het gewoon een vrouwelijke stem voor ons, weet je, een stem die competent en attent en vriendelijk klinkt, weet je, weer een lange weg om mensen te helpen een positieve ervaring te hebben. En dat is precies waar we voor gingen toen we dachten aan de stem die je in de auto hoort.

Jennifer Sterk: En wat meer is, Waymo produceert al zijn geluiden in een bepaalde toonsoort, in de hoop te beïnvloeden hoe we ons in de auto voelen.

[Geluid]

Ryan Powell : Er is een idee dat de toonsoort E een soort briljante of optimistische toonsoort is. En dus zul je merken dat ons hele klanklandschap weer rond deze toonsoort E wordt gespeeld. En dus zal ik, ik zal hier een geluid spelen in de toonsoort E.

[Geluid]

Als onderzoekers besteden we daar veel tijd aan met onze rijders: we proberen die momenten te ontdekken waarop mensen aanvullende informatie nodig hebben om te begrijpen wat er in het voertuig gebeurt. En nogmaals, het gaat een beetje terug naar dat idee van het opbouwen van vertrouwen. Het kan dus een eenvoudig voorbeeld zijn waarbij de auto, jij misschien gewoon langs rijdt en de auto plotseling vertraagt ​​en we zien dit de hele tijd. Je bent een soort van, weet je, je bent het niet, het is natuurlijk geen, een angstig moment of een alarmerend moment, maar jij, je kijkt een beetje op van je telefoon en je vraagt ​​je een beetje af, zoals, Oh, wat er aan de hand is, weet je, er is niemand voor ons en toch rijden we veel langzamer dan we gewoon waren. En dat is dus een voorbeeld van waar we, in dat geval, een schoolzone zijn binnengegaan, maar nogmaals, omdat je niet rijdt, zul je dat waarschijnlijk niet van tevoren weten. En dus vertrouwen we op die visuele interface of gebruiken we in sommige gevallen geluid of stem om je te laten weten wat er is gebeurd.

Jennifer Sterk: Een van de belangrijkste concurrenten van Waymo is Cruise. Na de pauze ontmoeten we het hoofd van de robotica.

[midroll]

Jennifer Sterk: Zelfrijdend autobedrijf Cruise is onderdeel van General Motors. De start-up in San Francisco bouwt elektrische auto's en richt zich op het delen en bezorgen van ritten in dichtbevolkte stedelijke omgevingen.

Rashed Haq is de vice-president van robotica.

Rashad Huck : Zelfrijdende auto's moeten het sociale gedrag van andere bestuurders of andere deelnemers aan het verkeer, zoals voetgangers, leren. En tegelijkertijd moeten ze zich conformeren aan menselijke sociale verwachtingen van andere chauffeurs en de passagiers. En ze moeten dit doen terwijl ze bovenmenselijke veiligheidsniveaus bereiken.

Jennifer Sterk: Een deel van zijn werk is het leren van autonome voertuigen om menselijker te zijn, want er zijn veel dingen die we doen tijdens het rijden, gewoon voor ons eigen comfort. We geven de voorkeur aan soepelere bochten en we rijden niet precies in het midden van een rijstrook naast geparkeerde auto's.

Hij en zijn team bestuderen onze gewoonten niet alleen om ze in bepaalde scenario's na te bootsen, maar ook om ze aan te passen. Hij zegt bijvoorbeeld dat ze computervisie-algoritmen gebruiken om de intentie van voetgangers uit hun gedrag te analyseren.

Rashad Huck : Dus als er bijvoorbeeld iemand op een zebrapad staat, maar naar zijn telefoon kijkt, dan kan de AV concluderen dat het onwaarschijnlijk is dat ze meteen oversteken of dat ze afgeleid zijn en dat ze misschien beginnen te lopen en niet opkijken .

We hebben sensoren die 360 ​​graden vrij ver kunnen zien, meestal meer dan mensen kunnen. En op een willekeurige dag rijden we meer dan een mens in zijn hele leven zou doen. Dus dat geeft je een soort van grenzen over hoe, hoe snel de algoritmen kunnen oppikken. Het hoeft duidelijk nog niet het oordeel van mensen te hebben.

Jennifer Sterk: En voordat we daar komen, moeten we weten hoe we willen automatiseren, weg van menselijk rijden.

Kunnen we realistisch verwachten dat mensen de controle op elk moment overnemen, wanneer ze die controle voor het grootste deel van de rit hebben afgestaan? Vliegtuigingenieurs realiseerden zich lang geleden dat piloten dit niet veilig kunnen doen, dus navigatiesystemen zorgen ervoor dat ze altijd een of andere taak uitvoeren om betrokken te blijven bij het vliegen.

Misschien betekent dat dat auto's moeten inhouden hoeveel ze achter het stuur zitten totdat ze echt autonoom kunnen zijn.

Dit soort technologie vereist een nieuw soort menselijk vertrouwen. Hoewel we het niet kunnen kwantificeren, weten we dat het vertrouwen dat mensen voelen toenemen met transparantie, persoonlijke ervaring en waarborgen. Dus als we met onze eigen auto's rijden, twijfelen we er nooit echt aan dat ze zullen stoppen als we op de rem trappen. Omdat we de besluitvorming uitbesteden aan machines, moet dat vertrouwen worden verdiend. Zonder dit zullen er meer decennia verstrijken en zullen sommige van deze technologieën misschien nooit het daglicht zien.

Volgende aflevering: technologie voor emotieherkenning wijst op een toekomst waarin onze auto's, telefoons en andere apparaten op onze gevoelens reageren.

Rana al-Kaliouby : Dus bouwen we algoritmen die je gezichtsuitdrukkingen kunnen begrijpen, zoals je glimlach of je frons of wenkbrauwen optrekken, en brengen dat in kaart in een begrip van wat je emotionele en mentale toestand is.

Jennifer Sterk: Kunnen we emoties zelfs codificeren? En moeten we? Ga met ons mee voor een miniserie over emotie-AI, terwijl we onderzoeken hoe we slimme tools kunnen transformeren in empathische.

Deze aflevering is gerapporteerd en geproduceerd door mij en Tanya Basu, met Emma Cillekens en Tate Ryan-Mosely. We hadden hulp van Karen Hao en Benji Rosen. We worden geredigeerd door Michael Reilly en Gideon Lichfield.

Bedankt voor het luisteren, ik ben Jennifer Strong.

zich verstoppen