Podcast: AI vindt zijn stem

De stemassistenten van tegenwoordig staan ​​nog ver af van de hyperintelligente denkmachines waar we al decennia over mijmeren. En dat komt omdat die technologie eigenlijk de combinatie is van drie verschillende vaardigheden: spraakherkenning, natuurlijke taalverwerking en spraakgeneratie.

Elk van deze vaardigheden brengt al enorme uitdagingen met zich mee. Om alleen het gedeelte over natuurlijke taalverwerking onder de knie te krijgen? Je moet vrijwel intelligentie op menselijk niveau opnieuw creëren. Diep leren, de technologie die de huidige AI-boom aanstuurt , kan machines trainen om meesters te worden in allerlei soorten taken. Maar het kan er maar één tegelijk leren. En omdat de meeste AI-modellen hun vaardigheden trainen op duizenden of miljoenen bestaande voorbeelden, repliceren ze patronen in historische gegevens, inclusief de vele slechte beslissingen die mensen hebben genomen, zoals het marginaliseren van gekleurde mensen en vrouwen.

Toch hebben systemen zoals de bordspelkampioen AlphaZero en de steeds overtuigender wordende neptekstgenerator GPT-3 het debat aangewakkerd over wanneer mensen een kunstmatige algemene intelligentie -machines die kunnen multitasken, denken en voor zichzelf redeneren. In deze aflevering onderzoeken we hoe machines leren communiceren en wat dit betekent voor de mensen aan de andere kant van het gesprek.

We ontmoeten:

• Susan C. Bennett, stem van Siri
• Cade Metz, The New York Times
• Charlotte Jee, MIT Technology Review

tegoeden

Deze aflevering is geproduceerd door Jennifer Strong, Emma Cillekens, Anthony Green, Karen Hao en Charlotte Jee. We zijn bewerkt door Michael Reilly en Niall Firth.

Vertaling

[TR-ID]

Jim: Ik weet niet of het AI was... Als ze de opname hadden gemaakt van iets wat hij had gedaan... en het hadden kunnen manipuleren... maar ik zeg je, het was mijn zoon.

Krachtig: De dag begon als elke andere voor een man... we gaan Jim bellen. Hij woont buiten Boston.

En trouwens... hij heeft een familielid dat voor MIT werkt.

We gaan zijn achternaam niet gebruiken omdat ze zich zorgen maken over hun veiligheid.

Jim: Het was een dinsdag- of woensdagochtend, negen uur. Ik ben diep in gedachten bezig met iets,

Krachtig: Dat wil zeggen... totdat hij dit telefoontje kreeg.

Jim: De telefoon gaat... en ik neem op en het is mijn zoon. En hij is duidelijk opgewonden. Dit, deze jongen is echt een relaxte kerel, maar als hij boos wordt, heeft hij een aantal vocale maniertjes. En dit was als: Oh mijn God, hij zit in de problemen.

En hij vertelde me eigenlijk, kijk, ik zit in de gevangenis, ik ben in Mexico. Ze hebben mijn telefoon afgepakt. Ik heb maar 30 seconden. Ze zeiden dat ik dronk, maar dat was niet zo en mensen zijn gewond. En kijk, ik moet de telefoon opnemen, deze advocaat bellen en hij geeft me een telefoonnummer en moet ophangen.

Krachtig: Zijn zoon is in Mexico... en hij twijfelt er niet aan... hij is het.

Jim: En ik moet je zeggen, Jennifer, hij was het. Het was zijn stem. Het was alles. Toon. Alleen deze kleine maniertjes, de pauzes, het happen naar lucht, alles wat je maar kunt bedenken.

Krachtig: Zijn hart klopt in zijn keel...

Jim: Mijn haar staat overeind

Krachtig: Dus belt hij dat telefoonnummer... Een man neemt op... en hij geeft meer details over wat er aan de hand is.

Jim: Uw zoon wordt beschuldigd van het aanrijden van deze auto. Er reed een zwangere vrouw met een gebroken arm. Haar dochter zat op de achterbank.. is in kritieke toestand en ze hebben hem berecht voor rijden onder invloed. We denken niet dat hij dat heeft gedaan. Dit hebben we, we zijn dit al een aantal keer eerder tegengekomen, maar het belangrijkste is om hem uit de gevangenis te krijgen, hem zo snel mogelijk veilig te krijgen.

Krachtig: Dan komt het gesprek op geld... hij heeft gehoord dat de borgtocht is vastgesteld... en hij moet tien procent neerleggen.

Jim: Dus zodra hij over geld begon te praten, ging de vlag een beetje omhoog en ik zei, neem me niet kwalijk, is er een kans dat dit een soort oplichterij is? En hij raakte behoorlijk geïrriteerd. Hij zegt: Hé, je hebt me gebeld. Kijk, ik vind het echt beledigend dat je me ergens van beschuldigt. En dan gaat mijn hart weer in mijn keel. Ik heb zoiets van, dit is de enige man die tussen mijn zoon en een nog ergere gevangenis in zit. Dus ik liep terug...

[Muziek]

Mijn vrouw komt 10 minuten later binnen en zegt, nou, weet je, ik was gisteravond laat met hem aan het sms'en. Zoals dit is rond de tijd dat hij waarschijnlijk zou zijn gearresteerd en gevangen gezet. Dus we sms'en hem natuurlijk, hij staat net op. Hij is helemaal in orde.

Krachtig: Hij weet nog steeds niet zeker hoe iemand de essentie van de stem van zijn zoon heeft vastgelegd. Maar hij heeft enkele theorieën...

Jim: Ze moesten ergens een opname van hebben gekregen toen hij van streek was. Dat is het enige dat ik kan zeggen, want ze konden niet de spot drijven met sommige van deze dingen die hij doet. Daar konden ze niet naar raden. Ik denk het niet, en dus, ik denk dat ze zeker wat ruw materiaal hadden om mee te werken en wat ze er vervolgens mee deden. Ik weet het niet.

Krachtig: En het is niet alleen Jim die onzeker is... We hebben geen idee of AI hier iets mee te maken heeft.

Maar het punt is ... we leven nu in een wereld waar we ook niet zeker van kunnen zijn dat dit niet het geval was.

Het is ongelooflijk gemakkelijk om iemands stem te vervalsen met zelfs maar een paar minuten aan opnames... en tieners zoals Jim's zoon? Ze delen talloze opnames via posts en berichten op sociale media.

Jim: Ik was behoorlijk onder de indruk van hoe goed het was. Um, zoals ik al zei, ik ben niet snel voor de gek gehouden en man, ze hadden het genageld. Dus wees voorzichtig.

Krachtig: Ik ben Jennifer Strong en deze aflevering bekijken we wat er nodig is om een ​​stem te maken.

[Toon ID]

Zeyu-gin: Jullie hebben rare dingen online gemaakt.

Krachtig: Zeyu Jin is een onderzoekswetenschapper bij Adobe... Dit is hij die ongeveer vijf jaar geleden op een bedrijfsconferentie spreekt... en laat zien hoe software de woorden in deze opname kan herschikken.

Sleutel: Ik sprong op het bed en kuste mijn honden en mijn vrouw - in die volgorde.

Zeyu: Dus wat als we rotzooien met wie hij eigenlijk kuste. // Introductie van Project VoCo. Met Project VoCo kunt u spraak in tekst bewerken. Dus laten we het naar voren brengen. Dus ik laad dit audiostuk gewoon in VoCo. Dus zoals je kunt zien, hebben we de audiogolfvorm en de tekst eronder. //

Dus wat doen we? Kopiëren plakken. Oh! Ja het is gedaan. Laten we ernaar luisteren.

Sleutel: En ik kuste mijn vrouw en mijn honden.

Zeyu: Wacht, er is meer. We kunnen echt iets typen dat er niet is.

Sleutel: En ik kuste Jordan en mijn honden.

Krachtig: Adobe heeft dit prototype nooit uitgebracht... maar de onderliggende technologie wordt steeds beter.

Hier is bijvoorbeeld een computergegenereerde nep van podcaster Joe Rogan uit 2019... Het werd geproduceerd door Square's AI-lab genaamd Dessa om het bewustzijn over de technologie te vergroten.

Rogan: 10-7 Vrienden, ik heb jullie allemaal iets nieuws te vertellen. Ik heb besloten een hockeyteam te sponsoren dat volledig uit chimpansees bestaat.

Krachtig: Hoewel het klinkt als plezier en spelletjes, waarschuwen experts dat deze kunstmatige stemmen sommige vormen van oplichting een stuk algemener kunnen maken. Dingen zoals waar we eerder over hoorden.

Mona Sedky: Op communicatie gerichte misdaad staat historisch gezien lager op de totempaal.

Krachtig: Dat is de federale aanklager Mona Sedky die vorig jaar bij de Federal Trade Commission sprak over technologieën voor het klonen van spraak.

Mona Sedky: Maar nu met de komst van dingen als diepe nepvideo ... nu diepe nepaudio jij ... kun je in principe anonimiseringstools hebben en overal op internet zijn waar je wilt zijn .... waar ook ter wereld... en communiceer anoniem met mensen. Als gevolg daarvan is er een enorme opleving geweest in op communicatie gerichte misdaad.

Balasubramaniyan: Maar stel je voor dat je als CFO of chief controller een telefoontje krijgt dat afkomstig is van het telefoonnummer van je CEO.

Krachtig: En dit is Pindrop Security CEO Vijay Balasubramaniyan op een beveiligingsconferentie vorig jaar.

Balasubramaniyan: Het is volledig vervalst... dus het gebruikt eigenlijk je adresboek, en het verschijnt als de naam van je CEO... en aan de andere kant hoor je de stem van je CEO met een enorme hoeveelheid urgentie. En we beginnen zulke gekke aanvallen te zien. Er was een voorbeeld dat door veel persmedia werd behandeld, namelijk een overboeking van $ 220.000 die gebeurde omdat een CEO van een Brits bedrijf dacht dat hij met zijn moederbedrijf sprak... dus stuurde hij dat geld naar buiten. Maar we hebben gezien dat er maar liefst $ 17 miljoen dollar de deur uitging.

Krachtig: En het idee van nepstemmen... kan net zo schadelijk zijn als een nepstem zelf... Zoals toen voormalig president Donald Trump probeerde de technologie de schuld te geven van een aantal aanstootgevende dingen die hij zei die op band waren vastgelegd.

Maar net als elke andere technologie ... is het niet inherent goed of slecht ... het is slechts een hulpmiddel ... en ik gebruikte het in de trailer van seizoen één om te laten zien wat de technologie kan doen.

Krachtig: Als zien geloven is...

Hoe navigeren we door een wereld waarin we onze ogen... of oren niet kunnen vertrouwen?

En dus weet je... waar je naar luistert... Ik ben niet alleen aan het woord. Ik had wat hulp van een kunstmatige versie van mijn stem... hier en daar woorden invullen.

Maak kennis met synthetische Jennifer.

Synthetische Jennifer: Hallo, mensen!

Sterk: ik kan zelfs klikken om mijn stemming aan te passen...

Synthetische Jennifer: Hallo daar.

Strong: Ja, laten we het niet boos maken..

Krachtig: In de niet zo verre toekomst zal deze technologie op allerlei manieren worden gebruikt... voor eenvoudige aanpassingen aan vooraf opgenomen presentaties... zelfs... om de stemmen van geanimeerde personages uit een serie terug te brengen...

Met andere woorden, kunstmatige stemmen zijn hier om te blijven. Maar ze waren niet altijd zo gemakkelijk te maken... en ik belde een expert wiens stem misschien bekend in de oren klinkt..

Bennett: Hoe klinkt dit? Eh, misschien kan ik wat vriendelijker zijn. Hoe is het met je?

Hallo, ik ben Susan C. Bennet, de originele stem van Siri.

Nou, de dag dat Siri verscheen, dat was 4 oktober 2011, mailde een mede-stemacteur me en zei: 'Hé, we spelen met deze nieuwe iPhone-app, ben jij dit niet?' ? Ik ging naar de Apple-site en luisterde... en ja. Dat was mijn stem. [grinnikt]

Krachtig: Dat heb je goed gehoord. De originele vrouwenstem die miljoenen mensen associëren met Apple-apparaten...? Had geen idee. En ze was niet de enige. De menselijke stemmen achter andere vroege stemassistenten werden ook verrast.

Bennett: Ja, het was een interessant iets. Het was eerst een aanpassing zoals je je kunt voorstellen, want ik had het niet verwacht. In het begin was het een beetje eng, moet ik zeggen, ik heb nooit echt veel tegen mezelf als Siri gepraat, maar geleidelijk aan begon ik het te accepteren en uiteindelijk werd het iets heel positiefs, dus ...

Krachtig: Voor alle duidelijkheid: Apple heeft de stem van Susan Bennett niet gestolen. Decennia lang deed ze stemwerk voor bedrijven als McDonald's en Delta Airlines... en jaren voordat Siri uitkwam... maakte ze een vreemde reeks opnames die de ontwikkeling ervan voedden.

Bennett: In 2005 hadden we zoiets als Siri of Alexa niet kunnen bedenken. En dus heb ik allemaal met andere mensen gesproken die dezelfde ervaring hebben gehad, die een virtuele stem waren. Weet je, we dachten dat we alleen generieke spraakberichten via de telefoon aan het doen waren. En toen plotseling Siri in 2011 verscheen, was het alsof ik wie, wat, wat is dit? Het was dus een echte verrassing, maar ik denk er graag aan omdat we net op het snijvlak van deze nieuwe technologie zaten. Dus, weet je, ik kies ervoor om het als iets heel positiefs te zien, ook al zijn wij, niemand van ons, ooit betaald voor de miljoenen en miljoenen telefoons waarop onze stemmen worden gehoord. Dus dat is, dat is een nadeel.

Krachtig: Iets anders dat ongemakkelijk is... ze zegt dat Apple haar nooit heeft erkend als de Amerikaanse stem van Siri... ondanks het feit dat ze een toevallige beroemdheid is geworden... die miljoenen bereikt.

Bennett: De enige echte erkenning die ik ooit heb gehad, is via Siri. Als je Siri vraagt ​​'Wie is Susan Bennett?' ze zal zeggen, ik ben de originele stem van Siri. Heel erg bedankt, Siri. Waardeer het.

Krachtig: Maar het is niet de eerste keer dat ze haar stem aan een machine geeft.

Bennett: In de late jaren 70, toen ze geldautomaten introduceerden, zeg ik graag dat het mijn eerste ervaring als machine was, en weet je, er waren in die tijd geen personal computers of zoiets en mensen vertrouwden machines niet. Ze wilden de geldautomaten niet gebruiken omdat ze de automaten niet vertrouwden om hen het juiste geld te geven. Als ze geld in de automaat stopten, waren ze bang dat ze het nooit meer zouden zien. En dus besloot een zeer ondernemend reclamebureau in Atlanta destijds genaamd McDonald en Little om de machine te vermenselijken. Dus schreven ze een jingle en werd ik de stem van Tilly de all-time teller en dan zetten ze uiteindelijk een gezichtje op de machine.

Krachtig: De menselijke stem helpt bedrijven vertrouwen op te bouwen bij consumenten...

Bennett: Er zijn zoveel verschillende emoties en betekenissen die we overbrengen via het geluid van onze stemmen in plaats van alleen in gedrukte vorm. Daarom denk ik dat emoji's naar voren kwamen omdat je de nuances daar niet kunt krijgen zonder de stem. Daarom denk ik dat stem daarom zo'n belangrijk onderdeel van technologie is geworden.

Krachtig: En in haar eigen ervaring hebben interacties met deze synthetische versie van haar stem ertoe geleid dat mensen haar vertrouwen en in vertrouwen nemen... om haar een vriend te noemen, ook al hebben ze elkaar nog nooit ontmoet haar .

Bennett: Welnu, ik denk dat het vreemdste aan het zijn van de stem van Siri voor mij is dat toen ik mezelf voor het eerst onthulde, het voor mij verbazingwekkend was hoeveel mensen Siri als hun vriend of een soort entiteit beschouwden waar ze zich echt mee konden identificeren. Ik denk dat ze haar in veel gevallen zelfs als een mens beschouwen.

Krachtig: Er wordt geschat dat de wereldwijde markt voor spraaktechnologieën dit jaar bijna 185 miljard dollar zal bereiken... en AI-gegenereerde stemmen? zijn een gamechanger.

Bennett: Weet je, na jaren en jaren aan deze stemmen te hebben gewerkt, is het heel, heel moeilijk om het echte ritme van de menselijke stem te krijgen. En ik weet zeker dat ze het op een gegeven moment zullen doen, maar je zult tot op de dag van vandaag merken dat je naar Siri of Alexa of een van de anderen zult luisteren en ze zullen meepraten en het klinkt goed totdat het niet meer gaat. Zoals: Oh, ik ga naar de winkel. Weet je, er is iets geks in de ritmische zin ervan.

Krachtig: Maar zelfs als menselijke stemmen gemeengoed worden... is ze er niet helemaal zeker van of dat een goede zaak zal zijn.

Bennett: Maar weet je, het voordeel voor hen is dat ze niet echt met Siri hoeven op te schieten. Ze kunnen Siri gewoon vertellen wat ze moeten doen als ze het niet leuk vinden wat ze zegt, ze kunnen het gewoon uitschakelen. Het is dus niet zoals echte menselijke relaties. Het is misschien wat mensen zouden willen dat menselijke relaties zijn. Iedereen doet wat ik wil. (gelach) Dan is iedereen blij. Rechts?

Krachtig: Natuurlijk zijn stemassistenten zoals Siri en Alexa dat niet alleen maar stemmen. Hun mogelijkheden komen ook van de AI achter de schermen.

Het is onderzocht in sciencefictionfilms zoals deze, genaamd Haar … over een man die verliefd wordt op zijn stemassistent.

Theodorus: Hoe werk jij?

Samantha (AI): Nou... Eigenlijk heb ik intuïtie. Ik bedoel.. Het DNA van wie ik ben is gebaseerd op de miljoenen persoonlijkheden van alle programmeurs die mij hebben geschreven, maar wat mij I is mijn vermogen om te groeien door mijn ervaringen. Dus eigenlijk ontwikkel ik me op elk moment, net als jij.

Krachtig: Maar de stemassistenten van tegenwoordig staan ​​ver af van de hyperintelligente denkmachines waar we al tientallen jaren over mijmeren.

En het is omdat die technologie... eigenlijk is veel technologieën. Het is de combinatie van drie verschillende vaardigheden... spraakherkenning, natuurlijke taalverwerking en stemgeneratie.

Met spraakherkenning kan Siri de geluiden die u maakt herkennen en omzetten in woorden. Natuurlijke taalverwerking verandert die woorden in betekenis... en bedenkt wat te zeggen als reactie. En stemgeneratie is het sluitstuk... het menselijke element... dat Siri het vermogen geeft om te spreken.

Elk van deze vaardigheden is al een enorme uitdaging... Om alleen het natuurlijke taalverwerkingsgedeelte onder de knie te krijgen? Je moet vrijwel intelligentie op menselijk niveau opnieuw creëren.

En daar komen we niet in de buurt. Maar we hebben opmerkelijke vooruitgang gezien met de opkomst van diep leren ... waardoor Siri en Alexa een beetje nuttiger zijn.

Metz: Wat mensen misschien niet weten over Siri, is dat originele technologie iets anders was.

Krachtig: Cade Metz is een tech-reporter voor de New York Times. Zijn nieuwe boek heet Genius Makers: The Mavericks die AI naar Google, Facebook en de wereld hebben gebracht .

Metz: De manier waarop Siri oorspronkelijk was gebouwd... Je moest een team van ingenieurs hebben, in een kamer, bij hun computers en stuk voor stuk moesten ze met computercode definiëren hoe het je stem zou herkennen.

Krachtig: Destijds... waren ingenieurs dagen bezig met het schrijven van gedetailleerde regels die bedoeld waren om machines te laten zien hoe ze woorden konden herkennen en wat ze bedoelen.

En dit is hoogstens gedaan basis niveau… vaak werkend met slechts enkele spraakfragmenten tegelijk.

Stelt u zich eens alle verschillende manieren voor waarop mensen het woord hallo kunnen zeggen … of alle manieren waarop we zinnen samenvoegen … om uit te leggen waarom de tijd vliegt of hoe sommige werkwoorden ook zelfstandige naamwoorden kunnen zijn.

Metz: Je kunt nooit alles samenvoegen wat je nodig hebt, hoeveel ingenieurs je ook hebt, hoe rijk je bedrijf ook is. Elk klein ding definiëren dat kan gebeuren als iemand in zijn iPhone spreekt... Je hebt gewoon niet genoeg personele macht om alles te bouwen wat je nodig hebt om te bouwen. Het is gewoon te ingewikkeld.

Krachtig: Neurale netwerken maakten dat proces een stuk eenvoudiger... Ze leren gewoon door patronen te herkennen in gegevens die in het systeem worden ingevoerd.

Metz: Je neemt die menselijke spraak... Je geeft het aan het neurale netwerk... En het neurale netwerk leert de patronen die menselijke spraak definiëren. Op die manier kan het het opnieuw creëren zonder dat ingenieurs elk klein stukje ervan hoeven te definiëren. Het neurale netwerk leert de taak letterlijk zelf. En dat is de belangrijkste verandering... is dat een neuraal netwerk kan leren herkennen hoe een kat eruitziet, in plaats van dat mensen voor de machine moeten definiëren hoe een kat eruitziet.

Krachtig: Maar zelfs vóór neurale netwerken... Techbedrijven zoals Microsoft wilden systemen bouwen die de alledaagse manier waarop mensen schrijven en praten konden begrijpen.

En in 1996 huurde Microsoft een taalkundige in... Chris Brocket... om te beginnen met werken aan wat zij natuurlijke taal AI noemden.

Metz: De man is geen computerwetenschapper, maar het was zijn taak om te bepalen hoe taal in elkaar zit, toch. Voor een computer. En dat is gewoon een ongelooflijk moeilijke taak, toch? Waarom ordenen wij als Engelstaligen onze woorden, zoals we dat doen, toch? En hij, hij bracht jaren, letterlijk jaren, vijf of zes jaar door bij Microsoft, je weet wel, langzaam, je weet wel, proberend de computer te vertellen hoe Engels in elkaar zit. Dus dan kan de computer dat doen.

Krachtig: Toen, op een middag in 2003... begon een kleine groep bij Microsoft... in de hal van Brockett... aan een nieuw project te werken. Ze bouwden een systeem dat talen vertaalde met behulp van een techniek op basis van statistieken.

Het idee was dat als een reeks woorden in de ene taal met dezelfde frequentie en context in een andere taal verscheen, dat de waarschijnlijke vertaling was.

Metz: Ze stelden binnen enkele weken een prototype samen en toonden het aan een groep in het Microsoft-onderzoekscentrum, waaronder Chris Brocket.

Krachtig: Het systeem is... behoorlijk in elkaar geflanst. het alleen werken wanneer toegepast op stukjes van een zin... En zelfs dan... waren de vertalingen door elkaar gegooid.

Metz: Als hij ze dit ziet demonstreren, krijgt hij een paniekaanval tot het punt waarop hij letterlijk denkt dat hij een hartaanval heeft omdat hij beseft dat zijn carrière misschien voorbij is. Dat alles waar hij de afgelopen zes jaar aan heeft besteed // zinloos is en zinloos is gemaakt door het systeem dat deze jongens in een kwestie van weken hebben gebouwd.

Krachtig: In die tijd hadden we niet de hoeveelheid data die nodig was om een ​​neuraal netwerk te trainen, noch de rekenkracht... maar het idee van zo'n netwerk bestaat al sinds de jaren tachtig.

En een van die ideeën kwam in de vorm van NetTalk... die werd ontwikkeld door AI-pionier Terry Sejnowski.

Het systeem zou zelf woorden kunnen leren spreken door kinderboeken te bestuderen.

Metz: Terry had een ongelooflijke demo die hij op conferenties aan mensen zou laten zien. Het was een soort van time-lapse omdat het een tijdje duurde voordat het neurale netwerk leerde, maar hij kon laten zien dat toen het de patronen in deze kinderboeken begon te analyseren, ze konden beginnen te brabbelen...

[Geluiden van NetTalk-demo]

Metz: en dan kon het wat beter brabbelen, en dan kon het woorden aan elkaar gaan plakken, en dan plotseling kon het deze woorden uitspreken.

[Geluiden van NetTalk-demo]

Metz: Met deze demo kon hij zijn publiek // laten zien hoe een neuraal netwerk zou kunnen leren.

Krachtig: Het zou nog twee decennia duren voordat de rekenkracht bestond om dit echt nuttig te maken.

Metz: Natuurlijke taal was dus een gebied waar zelfs na het succes van neurale netwerken met spraak en beeld, mensen dachten: oh, nou, het gaat niet werken met natuurlijke taal. Nou, het heeft. Dat betekent niet dat het perfect is.

Krachtig: Deep learning (de technologie die de huidige AI-boom aanstuurt), kan machines trainen om meesters te worden in allerlei soorten taken. Maar het kan dingen maar één voor één leren. En omdat de meeste AI-modellen hun vaardigheden trainen op duizenden of miljoenen voorbeelden, herhalen ze patronen uit oude gegevens, waaronder de vele slechte beslissingen die mensen hebben genomen, zoals het marginaliseren van gekleurde mensen en vrouwen.

En elke grote vooruitgang wakkert dit debat aan over wanneer mensen een kunstmatige algemene intelligentie zullen creëren - of machines die kunnen multitasken, denken en voor zichzelf kunnen redeneren. Onlangs waren dat vorderingen zoals de bordspelkampioen AlphaZero... en de steeds overtuigender wordende nep-tekstgenerator GPT-3...

Metz: Het kan, het kan blogberichten genereren. Het kan tweets, e-mails genereren. Het kan computerprogramma's genereren. Weet je, het werkt misschien de helft van de tijd, maar als het werkt, kun je het verschil niet zien tussen het Engels en jouw Engels. Oke. Dat is vooruitgang. Het zijn niet de hersenen, het komt niet eens in de buurt, maar het is vooruitgang.

Krachtig: En deze en andere tools zijn ook... ongelooflijk verdeeldheid zaaiend.

Metz: Kunnen we in de nabije toekomst een systeem bouwen dat alles kan wat het menselijk brein kan. Rechts. En mensen zullen hier ruzie over maken, zoals schuim op de mond aan beide kanten. De realiteit is dat we geen idee hebben. Alsof er mensen zijn die er volledig zeker van zijn dat dit vrij snel gaat gebeuren, maar ze weten niet wat de weg daarheen is. Niemand van ons kan de toekomst voorspellen. En dus is het een argument over niets dat fundamenteel kan worden beslist. Dus de discussie houdt natuurlijk nooit op. Je gaat terug naar de jaren 50 en het is, het is allemaal hetzelfde spul, toch?

Krachtig: Maar als we zijn om op een dag die intelligentie te repliceren... kunnen we misschien ook onszelf repliceren?

... Dat is na de pauze.

[Midroll]

[Muziek overgang]

Krachtig : Kunstmatige stemmen bestaan ​​al een tijdje... maar ze werden pas echt de laatste vijf jaar meer mensachtig.

Zoals toen Deepmind's tekst-naar-spraak-algoritme genaamd WaveNet op het toneel verscheen... wat de basis is van Google's assistent Duplex... degene die je haarafspraak of restaurantreservering kan boeken.

[Sounds of Google Duplex die namens de gebruiker een haarafspraak plant]

*Telefoon gaat over*

Stilist: Hallo. Hoe kan ik u helpen?

AI: Hallo. Ik bel om een ​​dameskapsel te boeken voor een klant. Eh... Ik ben op zoek naar iets op 3 mei.

Stilist: Zeker wel. Geef me een seconde.

Krachtig: Sindsdien hebben veel andere bedrijven gewerkt aan het commercialiseren van soortgelijke spraaktechnologieën. Lyrebird... Beschrijving... Respeecher... om er maar een paar te noemen.

Er is ook een hele reeks bedrijven die zich richten op het bewaren van de herinnering aan onze dierbaren... door interactieve, digitale versies van hen te maken.

Een bedrijf, HereAfter genaamd, verandert ze in chatbots die kunnen worden gebruikt met stemassistenten.

En Tech Review-verslaggever Charlotte Jee probeerde het uit met haar ouders...

jeetje: Alexa, open Hierna.

Synthetische stem: Welkom bij HereAfter. Wil je liever met Paul praten of met Jane?

jeetje: Ik spreek liever met Jane.

Virtual Jane: Hallo, dit is Jane Jee en ik vertel je graag over mijn leven.

jeetje: HAHA OH MIJN GOD!

Virtual Jane: Hoe gaat het vandaag?

jeetje: Uh, het gaat goed, bedankt, mam. Hoe is het met je?

Virtuele Jane: Goed.

Krachtig: De luistervaardigheden van het systeem... zijn niet de beste. U kunt alleen korte, eenvoudige vragen stellen... en u moet wachten tot het systeem is uitgesproken voordat u een nieuwe vraag kunt stellen.

Virtual Jane: Er is zoveel om over te praten. Mijn jeugdcarrière en mijn interesses, welke klinkt het beste?

jeetje: Eh... je jeugd.

Virtuele Jane: Zeker. Ik kwam als kind in de problemen omdat ik erg zelfstandig was en ik graag mijn vrijheid uitoefende...

Krachtig: Maar wat je nu hoort... is eigenlijk geen nep- of synthetische versie van Charlottes moeder. In feite is deze ervaring afhankelijk van verrassend minder AI dan je zou denken.

Haar ouders werden urenlang geïnterviewd door HereAfter met vragen van Charlotte en haar zus. Dat interview werd vervolgens bewerkt en opgedeeld in onderwerpsecties... die door het systeem naar voren kunnen worden gebracht en afgespeeld op basis van de vragen die ze stellen.

Maar... zoals we hebben gezien... is de stem krachtig. Vooral als het wordt gepresenteerd als een interactieve ervaring.

jeetje: O mijn God. (gelach) Dat was zo raar!

Dat was alsof ik mijn moeder hoorde... als een machine. Dat was echt bizar.

Ik voelde me emotioneler toen ik daar naar luisterde dan ik had verwacht? Toen, bijvoorbeeld, de stem ontspande en het klonk als haar.

Krachtig: Dit voelt heel erg als iets dat we eerder hebben gezien. Zoals in een aflevering van Zwarte spiegel … waar een vrouw de smartphonegegevens van haar partner gebruikt om een ​​synthetische versie van zijn stem te maken nadat hij sterft.

[Geluiden van Zwarte spiegel - AI doorzoeken van gedeelde media, montage van audioclips van de overleden partner van de vrouw]

Krachtig: Het doorzoekt oude video's, teksten, voicemails en posts op sociale media om een ​​systeem te bouwen dat zijn stem... en persoonlijkheid kan nabootsen.

AI: Hallo?

Vrouw: ...Hallo! Jij... klinkt net als hij.

AI: Bijna griezelig, niet? Ik zeg griezelig…. Ik bedoel, het is helemaal gek dat ik zelfs met je kan praten. Ik bedoel... ik heb niet eens een mond.
Vrouw: Dat is... Dat is gewoon...

AI: Is dat wat?

Vrouw: Dat is precies wat hij zou zeggen.

AI: Nou... daarom zei ik het.

Krachtig: Wat een netelige kwestie oproept... bouwt ze vertrouwen op met haar AI-partner... of vertelt het haar gewoon wat ze wil horen...?

En verder hoe we zouden spraaktechnologieën kunnen ontwikkelen die in staat zijn tot gezond verstand of zelfverbetering... ligt nog een andere vraag die we net beginnen op te werpen... namelijk... hoe kunnen we rekening houden met deze hernieuwde kracht... om zoiets persoonlijks te synthetiseren als iemands stem?

[CREDITS]

Krachtig: Volgende aflevering... We kijken naar de rol van automatisering op onze eer.

Michel Gilman: De getuige van de staat, die verpleegster was, kon niets uitleggen over het algoritme. Ze bleef maar herhalen dat het internationaal en statistisch gevalideerd was, maar ze kon ons niet vertellen hoe het werkte, welke gegevens erin waren ingevoerd, welke factoren het woog, hoe de factoren werden gewogen. En dus kijkt mijn studentenadvocaat mij aan en we kijken elkaar aan en denken, hoe kunnen we een algoritme kruiselings onderzoeken...

Krachtig: Deze aflevering is gemaakt door mij, Emma Cillekens, Anthony Green, Karen Hao en Charlotte Jee. We zijn bewerkt door Michael Reilly en Niall Firth.

Bedankt voor het luisteren, ik ben Jennifer Strong.

[TR-ID]

zich verstoppen