211service.com
Denken aan emotionele machines
Ik probeerde de ideeën van Rosalind Picard samen te vatten in: Affectieve computers terwijl ik praat met een technicus die aan mijn thuiscomputer werkt, een machine die net zo dol is op crashes als elke Indianapolis 500-tribune. Wat is dat voor boek dat je aan het lezen bent? hij vroeg. Affective Computing, was mijn norse, opvliegende antwoord. Dat is een goede, zei hij. U leest over effectief computeren en u krijgt uw computer niet aan het werk! Ik laat het misverstand bestaan, in het besef dat effectief en affectief ook vergelijkbare betekenissen hebben voor Picard, een universitair hoofddocent mediatechnologie aan het MIT Media Laboratory. Haar boek is een revolutionair voorstel om computers effectiever te maken door rekening te houden met emoties.
Hoewel de titel van Picard een onderzoek suggereert dat zich concentreert op onze emotionele reacties op computers, omvat haar visie eigenlijk een nog gewaagder en verontrustender thema: de mogelijkheid dat computers in staat kunnen worden intelligent te reageren op de emoties van hun gebruikers. Zoals Picard in haar voorwoord schrijft: ik ben tot de conclusie gekomen dat als we willen dat computers echt intelligent zijn, zich aan ons aanpassen en op een natuurlijke manier met ons omgaan, ze het vermogen nodig hebben om emoties te herkennen en uit te drukken, om emoties te hebben , en om te beschikken over wat wel emotionele intelligentie wordt genoemd.'
Dit verhaal maakte deel uit van ons nummer van januari 1998
- Zie de rest van het probleem
- Abonneren
Wat klinkt als een totaal absurde premisse, waarbij computers klinken als een cybertijdperk-update van de Tin Man in The Wizard of Oz (een machine die achteraf is uitgerust met een hart), wordt een steeds aannemelijker realiteit als de lezer Picards boeiende (indien labyrin-thine) redenering. Hoewel Picard weigert om gevoelens nauw te definiëren of een enkele psychologische theorie met betrekking tot hun betekenis in termen van cognitie en persoonlijkheid goed te keuren, concentreert Picard zich op de fysieke manifestaties van gevoelens (gezichtsuitdrukking, vocale intonatie, pupilverwijding) en overweegt hij hoe door middel van waarnemingsapparatuur ( handschoenen, maskers, met sensoren beladen sieraden en kleding) kunnen computers input over de emotionaliteit van gebruikers ontvangen en hier nuttig op reageren. Die input zou kunnen worden geïnterpreteerd door middel van programma's die beredeneerde reacties demonstreren op wat deze biologische patronen zouden kunnen inhouden over de computerbehoeften van de gebruiker. In het hoofdstuk met de titel Toepassingen van affectieve computers, somt Picard een reeks mogelijke praktische toepassingen op, waaronder het toevoegen van emotionele verbuiging aan gesynthetiseerde spraakprogramma's voor gehandicapten, en educatieve software die de frustratie van studenten met technologie kan herkennen en bijgevolg de presentatiepatronen ervan kan veranderen.
Het moet worden benadrukt, en Picard herinnert haar lezers eraan dat affective computing nog in de kinderschoenen staat. Juist omdat de haalbaarheid van affectgevoelige technologie nog zo onbekend is, lijkt Picards boek te bestaan in een merkwaardig gebied ergens tussen science en sciencefiction. De tekst is opgedeeld in twee delen, wat de hybride identiteit van het boek onderstreept. Deel één is een meeslepend (hoewel enigszins onsamenhangend) verslag van hoe en waarom Picard deze aanpak heeft ontwikkeld. Deel twee, dat veel minder leesbaar is dan het eerste, vooral voor niet-wetenschappers, beschrijft feitelijke en mogelijke affectieve computerontwerpen, waardoor ik de indruk krijg dat er vele jaren zullen verstrijken voordat affective computing substantieel gerealiseerd zal zijn.
Er zijn een duizelingwekkend aantal technische problemen. Biosensing-apparaten om de fysieke gevolgen van emotionele reacties van gebruikers te communiceren, zijn momenteel direct beschikbaar. De hachelijke aspecten van de technologie lijken zich te richten op de kwestie hoe computers moeten worden geprogrammeerd om emotionele gegevens consistent en intelligent te verwerken. Picard lijkt te vertrouwen op het conceptuele model van emotie dat wordt aangeboden door Daniel Goleman in Emotional Intelligence (Bantam, 1995): emoties zijn gebeurtenissen waarover we kunnen redeneren. Mensen kunnen over gevoelens nadenken om gewenste handelingswijzen in kaart te brengen, en Picard laat overtuigend zien dat computers ook kunnen worden ontworpen om over gevoelens na te denken en rationeel te handelen in het licht daarvan.
Waar Picard overgaat van wetenschap naar sciencefiction, is wanneer ze overweegt computers te bezitten die hun eigen emotionele intelligentie bezitten, onafhankelijk van hun menselijke operators. In haar verbijsterende bijdrage aan David G. Stork's HAL's Legacy: 2001's Computer as Dream and Reality (MIT Press, 1997), stelt ze een nuttig verontrustende vraag: kunnen we computers maken die affect herkennen en uitdrukken, empathie voelen, creativiteit vertonen en intelligent probleemoplossend vermogen, en nooit schade aanrichten door hun emotionele reacties?
Maar zelfs als alle technische obstakels rond affective computing kunnen worden overwonnen, draait de diepe vraag rond affectieve technologie misschien niet op een kan maar op een moeten. Moeten we naar machines kijken om beter te begrijpen wat we moeten doen met de gevoelens in ons hart? Een pessimistisch beeld komt in me op als de vraag wordt gesteld. De bijna-menselijke HAL in de film uit 2001 heeft absoluut een Frankenstein-achtige onderstroom: HAL doodt de menselijke bemanning van het ruimteschip met geen enkel gewetenswroeging.
Maar laten we terugkeren naar het beeld van de Tin Man in The Wizard of Oz, dat misschien een betere metafoor is voor Picards visie dan HAL. Onthoud dat de tovenaar een operatie aan de tinnen man doet, een spatie door zijn harnas snijdt en een zijden hart inbrengt gevuld met zaagsel. Is het geen schoonheid? vraagt de tovenaar. En in twee zinnen gaat de auteur, L. Frank Baum, tot het uiterste, vooruitlopend op bijna een eeuw debatten over het creëren (en of we het zouden moeten creëren) van humane en humaniserende technologieën: dat is het inderdaad! antwoordt de tinnen man, maar is het een goed hart?
Het strekt Picard tot eer dat ze zich bewust is van de vele ethische en morele dilemma's die het vooruitzicht van affectieve technologie met zich meebrengt. Dit boek probeert echt niet diepgaand op die dimensies in te gaan. Het is eerder een baanbrekend voorwoord voor een plausibele richting in computerontwerp, een die onvermijdelijk de dozen van Pandora zal openen buiten het domein van technologische uitvindingen.
Ik vind het geweldig dat Picard me vragen laat stellen als Kan mijn computer worden geprogrammeerd om oprechte empathie voor mij te tonen? Even aantrekkelijk is haar inzichtelijke conclusie over de afgemeten betekenis van haar ontdekking: er is een tijd om emotie te uiten, en een tijd om te verduren; een tijd om aan te voelen wat anderen voelen en een tijd om gevoelens te negeren... . In elke tijd hebben we een balans nodig, en deze balans ontbreekt in de computer. Ontwerpers van toekomstig computergebruik kunnen doorgaan met de ontwikkeling van computers die emoties negeren … of ze kunnen het risico nemen om machines te maken die emoties herkennen, communiceren en hebben, althans op de manier waarop emoties helpen bij intelligente interactie en besluitvorming maken.
Het feit dat Picard het risico neemt om in terra incognita te springen, is een reden tot vreugde. Op deze pagina's is een diepe gevoeligheid verbonden met technische kennis, en ik vertrouw erop dat Picard HAL een model van een voelend brein, de Tin Man, een goed hart zou hebben gegeven, en, indien mogelijk, toekomstige affectieve computers iets zal geven dat lijkt op een nobele ziel.