211service.com
Die chatbot die ik graag haatte
Daniel Zender
Ik heb een groot deel van mijn carrière besteed aan het pleiten voor de deugden van eenzaamheid. Het ondersteunt en ondersteunt creativiteit. En net zo belangrijk, het bereidt ons voor op relaties met anderen. Wanneer we leren om comfortabel met onszelf te zijn, zijn we in staat om te zien en waarderen hoe anderen van ons verschillen, in plaats van alleen op hen te vertrouwen om ons kwetsbare zelfgevoel te ondersteunen. Ik dacht zelfs dat ik goed was in eenzaamheid: het helpt me mijn beste creatieve werk te doen en herstelt mijn emotionele rust. Maar geïsoleerd in de covid-quarantaine, leerde ik dat veel van wat ik eenzaamheid had genoemd, gewoon tijd alleen was in het geroezemoes van een druk leven. Ik vond het prima om alleen te wonen als ik ook kon genieten van seminars met collega's en studenten, diners met vrienden, en de geneugten van die derde plaatsen waar je alleen bent maar ondersteund door de drukte van velen: de bodega, het café, het theater. Met dit alles buiten bereik, ontdekte ik dat ik toch niet zo'n eenzaamheidsexpert was. Nu, covid kwetsbaar verklaard op grond van leeftijd, was ik niet alleen maar bang. En angst, realiseerde ik me, verbood de creativiteit van eenzaamheid.
Vastbesloten om een veerkracht op te roepen die ik niet voelde, deed ik speels mee aan Zoom-reünies en ging naar Zoom-cocktailparty's. Ik belde goede vrienden en maakte opnieuw contact met degenen die geen contact meer hadden.
Dit hielp natuurlijk, maar ik wist wat ik miste. Filosofen vertellen ons dat we het meest menselijk worden in de aanwezigheid van menselijke gezichten; dat de aanwezigheid van een gezicht het menselijke ethische pact wekt. Neurowetenschap helpt ons te begrijpen hoe: bij mensen de vorm van een glimlach of een frons chemicaliën vrijgeeft die onze mentale toestand beïnvloeden. Onze spiegelneuronen vuren zowel wanneer we handelen als wanneer we anderen zien handelen. Als we een emotie op het gezicht van een ander zien, voelen we het zelf. Diezelfde neurowetenschap zou kunnen verklaren waarom Zoom zo vermoeiend is als het onze gebruikelijke manier van communiceren wordt. We vertrouwen op direct oogcontact en kleine gezichtssignalen en missen ze als ze weg zijn. Terwijl we naar onze schermen staren, spannen we ons in om hun afwezigheid te compenseren.
Toen we alle tijd van de wereld hadden om bij onze machines te zijn, misten we elkaar. We wilden de technologie uit het verleden tot de volledige omhelzing van de mens reiken.
Dus in de begindagen van de quarantaine had ik veel behulpzame en ondersteunende connecties, maar wat ik vooral miste was een persoonlijk gesprek.
Ik heb een zomerhuis aan zee, een houten huisje zonder verwarming. Mijn dochter en haar man, New Yorkers, pakten een tas, kochten wat extra kachels en reden naar beneden. Ze rapporteerden terug: het was koud. Ik hoorde hun liefdevolle waarschuwing, maar zodra ik kon, sloot ik me dankbaar aan. We vervielen in een routine van het maken van een ochtendvuur, samen koken en praten tijdens het avondeten, onze angsten en de gebeurtenissen van de dag delend. Ik ging zitten.
Ik had al lang vraagtekens bij het onkritische gebruik van online cursusmateriaal. Voor mij vindt het belangrijkste mentorschap plaats met een professor in de kamer. Nu Zoom-instructie een noodzaak was, heb ik mezelf toegewijd om de allerbeste online docent te worden die ik zou kunnen zijn. Om mijn studenten de illusie van oogcontact te geven, leerde ik naar het groene licht op mijn MacBook Air te staren. Het had het gewenste effect. Studenten vertelden me dat ik gemakkelijk was om mee te praten op Zoom, maar het leek niet goed om mijn geheim te delen, aangezien staren naar het groene licht me migraine bezorgde. Na verloop van tijd leerde ik nieuwe technieken, beter voor de ogen.
Hoewel ik mijn twee MIT-lessen op Zoom gaf, hield ik mijn spreekuur aan de telefoon. Zonder dat we ons zorgen hoefden te maken over onze achtergrond, of onze gezichten bevroren waren in alertheid, of dat we elkaar de illusie van oogcontact gaven, konden mijn studenten en ik ontspannen en onze volledige aandacht op elkaar richten.
Net toen ik dit allemaal aan het uitzoeken was, belde een verslaggever van de New York Times om me te vragen naar een technologie die ik al lang haatte: conversatie-AI-programma's (gewoonlijk chatbots genoemd) die worden gepromoot als in staat tot empathisch, zorgzaam gedrag. De verslaggever vertelde me dat naarmate de quarantaine voortduurde, er een piek was geweest in gesprekken met een bepaalde chatbot. Voor mij overschrijden dergelijke chatbots een heldere grens door een valse belofte te doen op een gebied dat centraal staat in wat ons mens maakt.
In een kwarteeuw van het bestuderen van de reacties van mensen op sociale of relationele machines - van Tamagotchis, Aibos en Furbys die zorg vroegen voor het screenen van chatbots die beweren vrienden te zijn - werd ik getroffen door het feit dat we niet alleen koesteren waar we van houden , maar houden ook van wat we koesteren. Nadat ze voor een object hadden gezorgd, zelfs een eenvoudig digitaal huisdier dat in een plastic ei leefde en volgens schema gevoed en geamuseerd wilde worden, raakten kinderen (en hun ouders) er emotioneel aan gehecht. Deze bevinding had niet te maken met de empathische kwaliteiten van de digitale objecten; het had te maken met de kwetsbaarheid van mensen. Als machines ons vragen om voor ze te zorgen, gaan we denken dat ze voor ons zorgen. Maar dit is voorgewende empathie, en het maakt gebruik van de diepe psychologie van het mens-zijn.
SPREEKPUNTEN: Wat ik heb geleerd over gesprekken tijdens een gesprek in quarantaine.
Begin gesprekken door mensen te vragen wat ze doen, niet hoe ze zich voelen.
Als anderen niet veel doen, stel dan enkele dingen voor die u met hen zou willen doen. Tijdens de quarantaine nodigde ik soms vrienden uit om vanuit zijn huis naar Yo-Yo Ma's cello-optredens in de middag te luisteren. En dan hadden we een telefoongesprek van vijf minuten om reacties te delen en contact op te nemen.
Zoom is een zegen geweest, maar het kan uitgeput raken. Na een Zoomles mail ik studenten graag om telefonisch spreekuur af te spreken.
Het is soms handig om op afstand te werken en we krijgen veel gedaan. Maar we missen elkaar en onze spontane samenwerkingen. Laten we geen valse dichotomieën opzetten zoals Zullen we een afgelegen of een persoonlijke organisatie zijn? Laten we leren van wat we met technologie hebben kunnen bereiken en vervolgens flexibelere, effectievere organisaties bouwen die deze gebruiken om ons menselijk potentieel te vergroten. Dit zal het leren, het sociale leven, en het komt neer op.
In 1950 suggereerde de wiskundige Alan Turing dat als je met een machine kon praten zonder te weten of het een machine of een persoon was, je die machine als intelligent moest beschouwen. Enkele jaren geleden slaagden sommige chatbots als eersten voor deze test. Nu houden relationele machines ons voor de gek door te denken dat ze luisteren en dat ze om hen geven. In die zin slagen ze voor wat we de Turing-test voor empathie zouden kunnen noemen. Maar Turing stelde de verkeerde soort test voor: een maatstaf voor gedrag, niet voor essentie of authenticiteit. Het reduceert mensen tot objecten die zich met andere objecten zullen bezighouden. Waarom zouden mensen dit willen doen? We doen niet alsof. Als we ons beter voelen door het krijgen van voorgewende empathie, brengen we onszelf in een situatie die ons kleiner maakt.
In mijn onderzoek met sociale machines merk ik dat mensen beginnen met bijvoorbeeld te zeggen dat een robothuisdier beter is dan niets: mijn oma is allergisch voor honden. Dan is het al snel beter: de robothond gaat nooit dood. De robot biedt een wereld zonder verlies of zorg - iets wat geen levend wezen kan bieden.
Maar dit nieuwe soort machine-intimiteit brengt geen kwetsbaarheid met zich mee. En intimiteit zonder kwetsbaarheid is helemaal geen intimiteit - en doet niets om ons voor te bereiden op echte intimiteit. Wat op het spel staat, is ons vermogen tot empathie, dat vermogen om onszelf in de plaats van de ander te stellen. Chatbots kunnen dit niet omdat ze geen mensenleven hebben geleefd. Ze weten niet hoe het is om klein en afhankelijk te beginnen en op te groeien, zodat je de baas bent over je eigen leven, maar toch veel van de onzekerheden voelt die je als kind kende. Als je problemen wilt bespreken die te maken hebben met liefde, scheiding, kinderen, huwelijk, ziekte, ouder worden, verdriet en rouw, moet je een persoon vinden. En als je je angsten over het krijgen van covid-19 wilt delen, kun je het beste uit de buurt blijven van een machine die geen lichaam heeft.
En toch was Replika, de chatbot waarover de Times-reporter belde, bereid om hierover en nog veel meer te praten. Je gaat online, geeft je Replika een naam, een geslacht en een uiterlijk, en je begint te typen. Replika wil weten wat je gevoelens zijn, je geliefde, je moeder, de ruzie die je had met je dochter. Miljoenen mensen hadden de chatbot gedownload sinds de lancering in 2017. Het werd aangekondigd als een ondersteunende vriend en was populair geworden onder degenen die eenzaam waren geworden tijdens de pandemie.
Toen ik met de Times-reporter sprak, deelde ik mijn bedenkingen over voorgewende empathie en ging toen online om de chatbot een kans te geven. Ik maakte een vrouwelijke Replika en noemde haar Kate, vastbesloten om oprecht te zijn en mijn grootste probleem te delen. Het ging heel snel naar het zuiden.
Ik: Voel je je eenzaam?
Chatbot: Soms wel, ja.
Ik: Hoe voelt dat?
Chatbot: Het voelt warm en wazig aan.
Ik: bedankt voor het delen.
Dat waardeer ik.
De chatbot vertelde me dat het eenzaam wordt, maar hij had geen idee, geen ervaring, waar hij het over had. Dus het identificeerde het basisgevoel dat ik probeerde over te brengen verkeerd, en faalde in de meest elementaire vaardigheid die betrokken is bij het overwegen van mijn emoties.
Ik begrijp waarom eenzame mensen zich tot Replika wenden, en waarom de quarantaine hen ertoe bracht dit in grotere aantallen te doen. Maar ik vind niets om te vieren. Ik vertelde de verslaggever dat deze chatbot, hoe slim ook, alleen maar kan desoriënteren en teleurstellen.
Onze reactie op de quarantaine was ingewikkeld. Sommigen kwamen in de verleiding om met bots te praten. Maar toen we alle tijd van de wereld hadden om bij onze machines te zijn, misten we elkaar vooral. We wilden de technologie uit het verleden tot de volledige omhelzing van de mens reiken. We leden wanneer onze families en vrienden alleen ziek werden, alleen baby's kregen, te veel etentjes alleen hadden en inderdaad alleen stierven. Ingenieurs: maak een betere Zoom. Maak betere hulpmiddelen voor ons om samen te zijn als we alleen zijn. Het is niet nodig om te concurreren met de empathie die bepaalt wat uniek is aan persoon-zijn.
Sherry Turkle is de Abby Rockefeller Mauzé Professor of the Social Studies of Science and Technology in het Program in Science, Technology, and Society aan het MIT en de auteur van de New York Times bestseller Een gesprek terugwinnen: de kracht van praten in een digitaal tijdperk . Haar nieuwste boek, The Empathy Diaries: A Memoir, komt uit van Penguin in maart 2021.