211service.com
Wanneer onze apparaten onze emoties kunnen lezen: Affectiva's Gabi Zijderveld
Emotie-tracking AI begint machines te helpen onze stemmingen te herkennen. Zijn we klaar?
28 februari 2019
Persoonlijke assistenten zoals Siri, Alexa, Cortana of Google Home kunnen onze gesproken woorden ontleden en (soms) adequaat reageren, maar ze kunnen niet meten hoe we ons voelen, deels omdat ze onze gezichten niet kunnen zien. Maar in het opkomende gebied van emotie-tracking AI, bestuderen bedrijven de gezichtsuitdrukkingen die worden vastgelegd door de camera's van onze apparaten, zodat allerlei soorten software beter kunnen reageren op onze stemmingen en cognitieve toestanden.
Bij Affectiva, een startup uit Boston opgericht door MIT Media Lab-onderzoekers Rosalind Picard en Rana El Kaliouby, hebben programmeurs machine learning-algoritmen getraind om onze gezichtssignalen te herkennen en te bepalen of we genieten van een video of slaperig achter het stuur worden. Gabi Zijderveld, Chief Marketing Officer en Head of Product Strategy van Affectiva, vertelt Business Lab dat dergelijke software marketing kan stroomlijnen, drijfveren kan beschermen en uiteindelijk al onze interacties met technologie dieper en meer lonend kan maken. Maar om misbruik te voorkomen, zegt ze, lobbyt Affectiva ook voor industriebrede normen om systemen voor het volgen van emoties opt-in en consensueel te maken.
Business Lab-luisteraars worden uitgenodigd om zich aan te melden voor het MIT Technology Review Global Panel, ons exclusieve forum van opinieleiders, innovators en executives. Als lid van het wereldwijde panel kunt u de technologische trends van vandaag onderzoeken, enquête- en studieresultaten bekijken, uw mening geven en samen met uw collega's deelnemen aan zakelijke bijeenkomsten over de hele wereld.
TOON OPMERKINGEN EN LINKS:
MIT Media Lab Affective Computing Group
VOLLEDIG TRANSCRIPT:
Elizabeth Bramson-Boudreau: Van MIT Technology Review, ik ben Elizabeth Bramson-Boudreau, en dit is Business Lab, de show die bedrijfsleiders helpt om nieuwe technologieën te begrijpen die uit het lab en op de markt komen.
Elisabeth: Voordat we beginnen, wil ik luisteraars uitnodigen om deel te nemen aan het MIT Technology Review Global Panel, ons exclusieve forum van opinieleiders, innovators en executives. En als lid van het wereldwijde panel kunt u de technologische trends van vandaag onderzoeken, enquête- en studieresultaten bekijken, uw mening geven en samen met uw collega's deelnemen aan zakelijke bijeenkomsten over de hele wereld. Meld u aan om lid te worden van het panel op TechnologyReview.com/globalpanel. Dat is TechnologyReview.com/globalpanel.
Elisabeth: Zou het niet cool zijn als je telefoon zou kunnen zien dat je in een humeurige bui bent door alle onderbrekingen van de dag en je gesprekken in de wacht zet zodat je wat werk gedaan krijgt? Of zou het niet geweldig zijn als de tabletcomputer van uw dochter zou kunnen zien wanneer ze zich verveelt met haar educatieve spel en het uitdagingsniveau zou verhogen om haar bezig te houden?
Elisabeth: Welnu, voordat onze apparaten ons op deze manier beter van dienst kunnen zijn, moeten ze begrijpen wat we werkelijk voelen. En daar heb ik het vandaag met mijn gast Gabi Zijderveld over. Ze is de chief marketing officer en hoofd productstrategie bij Affectiva, een startup in Boston die toonaangevend is op het nieuwe gebied van emotie-tracking AI. Het is een spin-off van de Affective Computing Group van het MIT Media Lab. Dat is affectief met een A. Affectiva bouwt algoritmen die de gezichten van mensen lezen om hun emoties en andere cognitieve toestanden te detecteren.
Elisabeth: De technologie helpt grote bedrijven al om te testen hoe doelgroepen emotioneel reageren op hun advertenties. En nu leidt Gabi een project om auto's uit te rusten met software die de cognitieve en emotionele toestanden van bestuurders in de gaten houdt en hen helpt om veilig en wakker te blijven. Het zou allemaal een grote sprong voorwaarts kunnen betekenen in de manier waarop we omgaan met computerapparatuur. Maar het roept natuurlijk ook enkele lastige vragen op over hoe algoritmen die onze emotionele toestand kunnen lezen, kunnen voorkomen dat ze onze aandacht uitbuiten of onze privacy schenden.
Elisabeth: Gabi, welkom, en heel erg bedankt voor je bezoek.
Nacht: Heel erg bedankt dat je me hebt.
Elisabeth: De naam van uw bedrijf, Affectiva, is een woordspeling, en het is een spel met de term affective computing. Kunt u aangeven wat affective computing is, alstublieft?
Nacht: Affective computing is in feite ontworpen om de kloof tussen menselijke emoties en technologie te overbruggen. En affective computing stelt technologie in staat om menselijke emoties te begrijpen en zich vervolgens aan te passen en erop te reageren.
Elisabeth: Dus Affectiva, zoals ik het begrijp, kwam uit het Media Lab in, wat, over 2009?
Nacht: Ja klopt. Bijna 10 jaar geleden.
Elisabeth: OKE. En de mede-oprichters zijn Rosalind Picard, hoofd van de Affective Computing Group van Media Lab, en Rana El Kaliouby - ik weet niet zeker of ik dat goed zeg.
Nacht: Rana El Kaliouby.
Elisabeth: Dus ze was een postdoc op dat moment in de groep, toch?
Nacht: Correct.
Elisabeth: Wat waren de grote ideeën die de twee in 2009 naar de tafel brachten, en wat ontbrak er in hun ogen aan computers en wat hoopten ze te veranderen?
Nacht: Dr. Rosalind Picard is eigenlijk begonnen op het gebied van affective computing. Ze schreef het baanbrekende boek ongeveer twee decennia geleden, genaamd Affective Computing. Dit veld is dus echt haar geesteskind. En vandaag leidt ze nog steeds de groep in het MIT Media Lab. Dus Rana, Dr. Rana El Kaliouby, sloot zich aan bij de groep van Ros Picard als postdoc, en samen bouwden ze het idee uit dat technologie het vermogen zou kunnen hebben om menselijke emoties te begrijpen en erop te reageren, om de menselijke interacties met technologie in wezen te verbeteren om ze meer relevanter, passender, maar misschien ook om mensen te helpen emoties beter te begrijpen of beter onder controle te krijgen. Vooral in de begintijd was er veel aandacht voor de toepassingen in de geestelijke gezondheidszorg, met name het helpen van kinderen met het autismespectrum, om technologie te gebruiken om hen te leren emoties te herkennen of te begrijpen en hen vervolgens te coachen hoe ze hun eigen emoties op de juiste manier kunnen uiten . Dus dat is waar dit idee eigenlijk begon in de vroege dagen.
Nacht: En toen begonnen Rana en Ros veel belangstelling te krijgen uit de industrie. Dus bij MIT zijn er natuurlijk veel evenementen en conferenties waar leden uit de industrie komen om een idee te krijgen van wat er nieuw is in technologie en wat er evolueert en in deze demodagen begonnen ze veel commerciële interesse te krijgen in hun technologie. Uit een aantal verschillende industrieën eigenlijk, waaronder de automobielsector, wat interessant genoeg is waar we tegenwoordig erg actief zijn. Destijds gingen ze naar de directeur van het Media Lab en zeiden: Hé, we hebben meer budget nodig om meer onderzoekers aan te nemen, en hij adviseerde hen terecht: Wel, het wordt tijd dat je afsplitst en je eigen bedrijf begint. En zo hebben ze in 2009 Affectiva mede opgericht. Ros Picard leidt nu de groep bij MIT Media Lab, dus dagelijks is ze niet meer bij het bedrijf betrokken. Maar Dr. Rana El Kaliouby is vandaag onze CEO.
Elisabeth: Zoals ik het begrijp heb je twee hoofdproducten. Je hebt een product dat is gericht op marktonderzoek en een ander - je had het over auto's - het gaat over de veiligheid van de bestuurder. Kun je iets meer vertellen over die twee producten? Misschien beginnen met degene die is gericht op marktonderzoek. Heet dat Affdex?
Nacht: Er zijn dus eigenlijk verschillende, meer dan alleen deze twee producten die we hebben. Er zijn dus verschillende manieren waarop we onze technologie hebben verpakt. Maar die twee markten die u beschreef, zijn echt de belangrijkste markten waar we vandaag naar op zoek zijn. Dus de eerste, waar we onze technologie, Affdex, voor marktonderzoek hebben, is een product. Het is een cloudgebaseerde oplossing waarmee media en adverteerders, waaronder de grote merken van de wereld, in feite hun inhoud, zoals videoadvertenties en tv-programma's, kunnen testen met doelgroepen. En in die markt zijn we al een flink aantal jaren marktleider, we hebben dat commerciële product op dit moment al bijna acht jaar. En tegenwoordig gebruikt ongeveer een kwart van de Fortune Global 500 onze technologie om al hun advertenties over de hele wereld te testen. Ik denk dat we vanaf deze maand waarschijnlijk meer dan 40.000 advertenties in 87 landen hebben getest en meer dan zeven en een half miljoen gezichten hebben geanalyseerd. Dus enorme hoeveelheden data die we hebben. En dat heeft ons in staat gesteld een product te bouwen dat deze adverteerders ook kan helpen bij het voorspellen van belangrijke prestatie-indicatoren in advertenties. Emotiegegevens, of emotie-analyses, kunnen hen dus helpen te voorspellen hoe waarschijnlijk het is dat inhoud viraal gaat, of de koopintentie of de verkoop toenemen.
Elisabeth: OK. Help me nu te begrijpen, hoe werkt het, hoe werkt dit eigenlijk. Dus is dit het nemen van een video van iemand terwijl ze bijvoorbeeld een advertentie observeren? En dan analyseert het de reacties van het gezicht op de ogen?
Nacht: Ja in wezen, zo is het gedaan. In termen van hoe we doorgaans werken, werken we samen met grote onderzoeksbureaus of marktonderzoeksbureaus, bedrijven zoals Kantar Millward Brown. Ze hebben enorme onderzoeksprocessen waarin ze met hun merkklanten samenwerken om te begrijpen hoe hun reclame en go-to-market moet plaatsvinden. Nu maken we deel uit van hun onderzoeksmethodologieën, wat betekent dat onze technologie is geïntegreerd in hun overkoepelende platforms. En typisch hoe het zou werken, ze hebben betaalde panelleden die zijn geworven om deel te nemen aan deze onderzoeken naar consumenteninzichten. Een deel van deze onderzoeken kan een onderzoekscomponent zijn, maar er is ook een component die zegt: OK, we willen graag dat u online een stukje inhoud bekijkt, zoals tv-programma's of een videoadvertentie, en we vragen u om u aan te melden en ermee in te stemmen dat we uw gezicht opnemen en analyseren terwijl u naar die inhoud kijkt. En daar komt onze technologie om de hoek kijken.
Nacht: Het is een cloudgebaseerde oplossing. Het enige dat we nodig hebben, is om, met toestemming, toegang te krijgen tot iemands camera, en terwijl ze deze inhoud bekijken, thuis of waar ze ook zijn, op hun apparaat, nemen we een beetje onopvallend op de achtergrond op, hun moment na moment reacties op die inhoud. Dus frame voor frame analyseren we deze reacties. En interessant genoeg heeft ons onderzoek aangetoond dat mensen vrij snel vergeten dat er een camera is. Ze reageren gewoon van nature op alles wat ze bekijken. En het is dat soort onbevooroordeelde en ongefilterde reactie die je wilt. Omdat je met dat inzicht, als je dat vervolgens op grote schaal verzamelt, echt belangrijke beslissingen kunt nemen over je inhoud en zelfs je inhoudsplaatsing of hoe je je advertentiedollars uitgeeft.
Nacht: Dat zijn dus in wezen de eerste markten waar Affective is begonnen. Vandaag zijn we nog steeds zeer actief in deze markt. Een andere markt om nu echt met volle kracht achteraan te gaan, is de auto. En in het afgelopen jaar, bijna een jaar geleden, lanceerden we een nieuwe oplossing voor die markt genaamd AffectivA Automotive AI. In feite is dit onze kerntechnologie, verpakt en afgestemd op de auto-industrie, omdat de use-cases daar heel verschillend zijn. Ze zijn tweeledig. Enerzijds is verkeersveiligheid, zoals we allemaal weten, in de automobielindustrie een belangrijk punt. Er zijn gewoon veel dodelijke slachtoffers en tragische ongevallen die elke dag op de weg plaatsvinden als gevolg van afgeleid rijden en slaperig rijden. Wat als u zou kunnen detecteren dat een bestuurder afgeleid was of slaperig werd en de auto op een relevante en gepaste manier zou laten ingrijpen? Dat is iets waar deze autofabrikanten allemaal naar streven. En hier komt onze technologie om de hoek kijken, want alleen al door camera's te gebruiken die nu al in auto's zitten, kunnen we heel eenvoudig en onopvallend de emotionele toestanden en complexe cognitieve toestanden van mensen, zoals slaperigheid en afleiding, begrijpen door hun gezicht te analyseren. Dus dat is een use-case in de auto-industrie. In feite bestuurdersmonitoring om de verkeersveiligheid te helpen verbeteren.
Elisabeth: Je moet behoorlijk wat data hebben die je moet gebruiken om je systemen te trainen om de gezichten van een groot aantal mensen te kunnen lezen. Kun je vertellen waar je trainingsgegevens vandaan komen en wat voor soort boost je hebt gekregen van de revolutie in machine learning en deep learning in de afgelopen vijf, tien jaar? Kunt u ons iets vertellen over uw gegevensprocessen?
Nacht: Ja absoluut. Dus misschien moet ik beginnen met machine learning en deep learning en waarom we dat eigenlijk gebruiken. Dus als je nadenkt over menselijke emoties en hoe deze zich ontwikkelen en manifesteren, zijn menselijke emoties eigenlijk heel complex, vaak extreem subtiel en genuanceerd. En als je dan denkt aan complexe cognitieve toestanden, die technisch gezien geen emoties zijn, dingen zoals slaperigheid en afleiding, dat zijn ook dingen die in de loop van de tijd evolueren. En het is zelden prototypisch. Zelden zie je in de echte wereld die overdreven glimlach of iemand die meteen in slaap valt. Het is tijdelijk. En als je kunt modelleren voor die complexiteiten, kun je dat niet doen met een op regels gebaseerde heuristische benadering. Je moet echt machine learning gebruiken om dat soort complexiteiten te kunnen detecteren.
Nacht: Dus dat is de reden waarom een groot aantal jaren geleden onze R&D echt is verschoven om al onze technologie te laten bouwen met machine learning-benaderingen. Nu moeten machine learning en deep learning-architecturen worden gevoed door enorme hoeveelheden gegevens. Daarnaast, voor ons, opnieuw als je denkt aan het modelleren van menselijke toestanden, zien mensen er duidelijk niet hetzelfde uit, afhankelijk van leeftijd, geslacht en etniciteit. En dan zijn er ook culturele invloeden en culturele normen die soms de uitdrukking van emoties in menselijke toestanden veranderen. Dus naast dat we diep leren kunnen voeden, hebben we ook grote hoeveelheden gegevens nodig om rekening te houden met alleen de diversiteit die in de mensheid bestaat, diversiteiten die over de hele wereld bestaan. Dus voor Affectiva zijn gegevens essentieel voor alles wat we doen. En we hebben enorme hoeveelheden gegevens geanalyseerd en we hebben enorme hoeveelheden gegevens verzameld. In feite hebben we meer dan 7,6 miljoen gezichten in 87 landen geanalyseerd.
Elisabeth: En waar haal je die gegevens vandaan?
Nacht: Op een aantal verschillende manieren. Dus eerst en vooral wat ik zou willen zeggen, omdat dit zo belangrijk voor ons is, worden al deze gegevens verzameld met opt-in en toestemming. We rekruteren altijd mensen om hun gegevens te laten verzamelen, of het is via online mechanismen waarbij we mensen expliciet vertellen dat we gegevens verzamelen en hen om toestemming vragen om dit te doen. Ook die gegevens zijn grotendeels geanonimiseerd. Dus, Elizabeth, als je meedeed aan een van onze onderzoeken, kan ik je gezicht met geen mogelijkheid terugvinden. Omdat je in wezen een gezicht bent. U bent geen bij naam genoemd individu. Dus daar voelen we ons sterk bij.
Nacht: We verzamelen deze gegevens op verschillende manieren. Zoals ik al eerder zei, zijn we zeer actief in media en reclame en door onze partnerschappen in die branche hebben we een groot aantal mediatests gedaan en daardoor hebben we enorme hoeveelheden gegevens verzameld. Er zijn andere klantrelaties waar we in feite overeenkomsten voor het delen van gegevens hebben. Niet al onze klanten willen hun gegevens delen, maar sommigen wel. Dus dat is een ander pad waarlangs we gegevens krijgen. En als je dan bijvoorbeeld aan de auto-industrie denkt, en laten we het voorbeeld van slaperig rijden gebruiken, dan hebben we deze enorme basisgegevensset waarmee we deze algoritmen kunnen bouwen. Maar we hebben niet per se enorme hoeveelheden slaperigheid. Om daarvoor te modelleren en algoritmen daarvoor te bouwen, heb je niet alleen slaperige gegevens nodig, maar je hebt zeker een bepaalde laag van die gegevens nodig bovenop wat je al hebt, dus je kunt je algoritmen daarop afstemmen.
Elisabeth: Je kunt dus onderscheid maken tussen een slaperige blik en, ik weet het niet, een verveelde blik.
Nacht: Precies, precies of juist afgeleid omdat die zich anders manifesteren.
Elisabeth: En ze hebben verschillende gevolgen als bestuurder.
Nacht: O absoluut. Absoluut. En ook in termen van hoe je die gegevens in het voertuig verzamelt, zijn er ook een soort van operationele uitdagingen, afhankelijk van de plaatsing van de camera en de camerahoeken. En nu moeten we natuurlijk bijna-infraroodcamera's ondersteunen die worden gebruikt, want als je 's nachts of in een tunnel rijdt, zijn de lichtomstandigheden niet zo goed. Dit zijn dus allemaal omgevingscondities waarvoor we onze algoritmen zouden hebben moeten trainen. Maar als je erover nadenkt, het vastleggen van slaperige rijgegevens, is het niet zo eenvoudig. Want het is niet zo dat we mensen 48 uur lang wakker kunnen houden in een van onze fantastische slaaplaboratoria in Boston en ze dan in een auto naar Memorial Drive sturen om te kijken of ze in slaap vallen. Dat is iets dat we niet per se willen doen.
Nacht: Het is dus ook een kwestie van enorme hoeveelheden gegevens verzamelen, onze gegevens ontginnen voor natuurlijke gebeurtenissen in die staten, en dan ook zeer specifieke onderzoeken doen die gericht zijn op demografieën die geneigd zijn slaperig te zijn tijdens het rijden. We hebben bijvoorbeeld een aantal onderzoeken gedaan met ploegenarbeiders - mensen die lange diensten kunnen draaien in bijvoorbeeld een fabriek, en dan midden in de nacht naar huis moeten rijden. Op die manier heb je meer kans om slaperige gegevens vast te leggen. Er zijn dus verschillende manieren waarop we onze gegevens verzamelen. Dat geeft ons een enorme gegevensopslag en vervolgens wordt een subset van die gegevens gebruikt om uw machine learning-classificaties te modelleren. En dan hak je een andere subset uit die je gebruikt voor training en validatie. Die houd je dus een beetje gescheiden. En we zijn continu bezig met het verzamelen van gegevens en het voortdurend annoteren van die gegevens. Het is gewoon een doorlopend aspect van onze R&D-inspanningen en het op die manier uitbreiden van de repository.
Nacht: Rechts. Dus waar je zojuist over hebt gesproken, zijn de manieren waarop je het lezen van emoties hebt gemanipuleerd. Hoe zit het nu met de noodzaak om de computers te programmeren om die informatie te interpreteren en te gebruiken. Is dat niet veel moeilijker om te doen?
Nacht: Het hangt er van af. Of het moeilijker is om te doen, hangt een beetje af van wat de interacties zijn. En meestal is dat de uiteindelijke ontwerpbeslissing van onze klant, maar het is ook een proces van samenwerking. Voor ons om deze algoritmen te ontwikkelen die menselijke emoties kunnen detecteren en analyseren, is het ook van cruciaal belang om te begrijpen, wat zijn de use-cases? Hoe willen ze die technologie gebruiken? Omdat je deze algoritmen niet zomaar in een vacuüm kunt bouwen. Het is dus vooral een samenwerkingsproces.
Nacht: Dus ik zei eerder dat we op dit moment behoorlijk actief zijn in de auto-industrie. Het is dus een voortdurende dialoog met autofabrikanten over hoe ze onze gegevens gebruiken om vervolgens aanpassingen of interventies in een voertuig te ontwerpen. En een deel hiervan is in hoge mate een evoluerend proces. Als je kunt zien dat iemand wordt afgeleid in een voertuig, wil je niet per se dat al deze waarschuwingen en alarmen afgaan, als het maar een kleine afleiding is, toch? Het kan mensen woedend maken of zelfs erger maken en nog gevaarlijker rijgedrag veroorzaken. U wilt niveaus en intensiteiten en frequentie van afleiding kunnen begrijpen en vervolgens zeer subtiele, relevante en passende interventies ontwerpen.
Nacht: En er is ook een toekomstige staatsvisie, en we zijn er zeker niet vanuit een technologisch perspectief, maar ik denk wel dat we daar in de toekomst naartoe gaan. Wat als je dat zou kunnen personaliseren voor het individu? Dus misschien wil je als je slaperig wordt naar hardrockmuziek luisteren. Misschien ben ik zelfs slaperig, ik wil gewoon absoluut uit mijn auto stappen en mijn benen strekken en rondlopen. En de manier waarop mijn auto of een toekomstige robottaxi in mijn behoeften voorziet...
Elisabeth: Wordt aangepast.
Nacht: Is aangepast aan mijn persoonlijke behoeften in het moment, toch. Dus de belofte om dit mogelijk op een gepersonaliseerde manier te bouwen, ik denk dat we daar in de toekomst naartoe gaan, maar vandaag nog niet, en ik denk niet dat we dat binnenkort zullen zien in auto's op de weg .
Elisabeth: Ik ben geïnteresseerd in de mate waarin jullie allemaal nadenken over het averechts potentieel hiervan. Dus op dit moment hebben we het natuurlijk veel over Facebook. We praten veel over de verkiezingen van 2016. We hebben het over de manipulatie waarvan we vrij zeker denken dat deze heeft plaatsgevonden via sociale-mediaplatforms zoals Facebook. En ik vraag me af in hoeverre je je zorgen maakt over wat er zou kunnen worden gedaan met de technologie van Affectiva en door het lezen van de manier waarop mensen op bepaalde dingen reageren en dus de aanpassing van die berichten om het meer impact te maken. Maakt u zich zorgen over de onvoorziene gevolgen van deze technologie als deze niet goed wordt beheerd.
Nacht: Daar maken we ons natuurlijk zorgen over. Maar ik denk dat elk technologiebedrijf zich zorgen moet maken over mogelijke nadelige toepassingen van de producten die ze ontwerpen. Omdat eerlijk gezegd elk stukje technologie dat we dagelijks gebruiken, kan worden gebruikt voor kwade bedoelingen of voor snode doeleinden. Denk aan de vrachtwagen. Dat is het vervoermiddel bij uitstek voor terroristen. Of googlemaps. Rechts. Dus die technologieën en die systemen zijn niet ontworpen voor die use-cases. Dus ik denk in de eerste plaats dat je als technologiebedrijven daar altijd rekening mee moet houden, vooral nu technologie zo toegankelijk is geworden en de rekenkracht zo sterk is en binnen handbereik is van elke consument. Daar moet je rekening mee houden.
Elisabeth: Maar als u een toolkit hebt, maakt u zich dan zorgen over wat er gebeurt als die toolkit kan worden gebruikt op manieren waar u zich niet per se tegen kunt wapenen?
Nacht: Ja absoluut. Er zijn dus dingen die bedrijven kunnen doen en dingen die wij hebben gedaan. Dus ik sprak zojuist in het algemeen over wat ik zou willen dat technologiebedrijven voortdurend zouden denken. Maar op uw eerdere vraag, terugkomend op de oorspronkelijke vraag, maken we ons daar zorgen over? Absoluut ja. En wat doen we eraan? Een aantal verschillende dingen. Dus eerst en vooral, onze technologie, we zijn heel voorzichtig met het in licentie geven ervan. En we worden daarin veel strenger met betrekking tot waar we misschien zelfs een paar jaar geleden waren. Het is dus niet zo dat iemand onze technologie zomaar kan pakken en er iets mee kan bouwen.
Nacht: Er zijn ook licentieovereenkomsten of juridische documenten die we hebben die daartegen beschermen. We hebben als bedrijf ook aangegeven dat er bepaalde soorten gebruiksscenario's zijn waaraan we onze technologie gewoon niet zullen verkopen. Wij geloven in opt-in en toestemming, omdat wanneer u zaken als menselijke emoties analyseert, emoties uiterst privé zijn, en we ons niet willen bezighouden met beveiliging of toezicht waarbij mensen niet de mogelijkheid hebben om zich aan te melden of in te stemmen met hun gezichten worden geanalyseerd. En we hebben zelfs zaken afgewezen die ons op dat pad zouden hebben gebracht.
Elisabeth: We zouden niet eens zijn waar we nu zijn als we dat niet zijn, we voelden niet allemaal veel cynisme of scepticisme over het vermogen van technologie om te worden benut, of om onvoorziene negatieve gevolgen te voorkomen. Rechts? Dus in zekere zin geeft het iedereen, jullie allemaal, nader onderzoek, omdat we ons wapenschuw voelen over technologie. En we weten dat regelgevende instanties in Washington in dit opzicht niet effectief zijn.
Nacht: Ze zijn omdat ze het niet goed begrijpen. Als je senatoren hebt die de leiding van Facebook vragen hoe ze geld verdienen, omdat ze de kernconcepten van gepersonaliseerde advertentietargeting niet begrijpen, dan hebben we een probleem. Het is ook een opvoedingsprobleem. Maar bovendien een interessante frictie, toch? Want er is ook denk ik, afgezien van de enorme verantwoordelijkheden die technologiebedrijven hebben, en waar sommigen misschien achterblijven of nalatig zijn, hoe zit het met de consument, toch? Omdat er een gepercipieerde waarde is. We gebruiken graag sociale-mediaplatforms en we vinden het prima om ons leven daar te delen, omdat we zien dat we daar waarde uit halen. En wij als consumenten stellen niet veel vragen, en ook dat baart mij zorgen. Vooral als je weet dat ik een dochter heb die op het punt staat 13 te worden en ik vermoed dat ze veel meer tijd op apparaten en sociale media zal doorbrengen. Hoe leid je daarvoor op? Zelfs als consument zijn alleen deze systemen ook enorm complex geworden. Ga gewoon naar je iPhone-instellingen en probeer erachter te komen waar de gegevens naartoe gaan en hoe deze stromen, en wat wil je wanneer uitschakelen, en hoe en hoe doe je dat zelfs?
Elisabeth: Het is heel moeilijk te ontcijferen.
Nacht: Het is niet erg intuïtief, toch? Bewust zo. En je moet er een punt van maken om naar buiten te gaan en informatie te vinden en het te doen en om te keren, in plaats van andersom, waar gegevens misschien de hele tijd privé worden gehouden en je naar binnen gaat en toegang geeft. Er is dus volgens mij een enorme wrijving tussen de waarde die consumenten percipiëren en de waarde die technologiebedrijven daadwerkelijk krijgen met de gegevens. Transparantie daarin. Dus voor ons als bedrijf maken we ons daar zeker zorgen over.
Elisabeth: Deze gesprekken heb je.
Nacht: O ja. Doorlopend. En ook in openbare fora. We zijn toegetreden tot het Partnership on AI, een brancheconsortium dat is ontworpen om in feite eerlijke, verantwoordelijke, transparante en ethische AI te realiseren. En we waren een van de weinige start-ups die werden uitgenodigd om daar deel van uit te maken. Maar dat is een manier waarop we hopen verandering teweeg te brengen. En we hebben ook het geluk dat Rana, onze CEO, een echte thought leader is op het gebied van AI, een publieke persoonlijkheid. Ze heeft kansen om daar te zijn en in openbare instellingen te spreken. En ze wil heel vocaal zijn over deze kwesties, omdat we daar een uitgesproken mening over hebben. En we voelen ook dat we een maatschappelijke verantwoordelijkheid hebben om hier transparant over te zijn en te pleiten voor verandering. Voor zover een startup van 50 mensen dat kan. Maar we moeten allemaal ons steentje bijdragen.
Elisabeth: Dus als ik denk aan wat de impact van emotionele AI of emotie-AI op het pad zou kunnen zijn, betekent dit dan dat, Siri zal krijgen, Alexa beter zal worden in het begrijpen van mijn emoties en op mij zal reageren in overeenstemming met mijn emoties? En zo ja, wat betekent dat voor de toekomst? Wat betekent het als onze apparaten op deze manier slim zijn over ons als emotionele wezens?
Nacht: Dus vandaag natuurlijk waar we verbonden zijn door hypergeavanceerde systemen en technologieën. Geavanceerde AI. Veel cognitieve mogelijkheden. Maar wat er echt ontbreekt, is dit emotiebewustzijn. Deze systemen begrijpen voor het grootste deel onze toestanden, onze reacties, ons welzijn niet. En wij bij Affectiva zijn zeker van mening dat dat zorgt voor zeer ineffectieve en oppervlakkige interacties met technologie. Dus wat als deze systemen onze emoties en onze cognitieve toestanden en onze reacties en ons gedrag zouden kunnen begrijpen? Hoeveel effectiever zou onze interactie met die technologieën zijn?
Nacht: Dus in de toekomst stel ik me zeker een wereld voor waarin ons type technologie, emotie-AI, verankerd is in het weefsel van technologieën die elke dag binnen handbereik zijn. Het is onopvallend op de achtergrond, begrijpt en reageert op ons emotionele welzijn. Ik heb ook altijd deze visie gehad die wij als mensen misschien met ons mee zouden dragen, laten we het ons emotiepaspoort noemen. Het is onze emotionele digitale voetafdruk die we controleren. Wij zijn eigenaar van die gegevens. Dat regelen wij. En we staan toe, met onze toestemmingen en wensen, om dat mee te nemen van apparaat naar digitale ervaring naar waar we technologie ook gebruiken. Of we nu op ons kantoor zitten te werken op onze laptop om in onze auto te stappen of een ritje te gebruiken of op onze thuissystemen, zoals een Google-huis of in Alexa, noem maar op. Elk type technologie waarmee we communiceren. Er zou dit consistente begrip van ons welzijn zijn en het zou ons leiden, adviseren en helpen. En ik denk dat dat het cruciale deel is. En daarom vind ik het ook zo belangrijk dat dit allemaal gebeurt met onze eigen opt-in en toestemming en controle.
Elisabeth: Het is zo fascinerend, omdat je kunt bedenken dat deze technologie wordt gebruikt om empathie te creëren in de apparaten die we gebruiken en de ervaringen die we hebben, toch? En inspelen op de manier waarop we bijvoorbeeld een advertentie lezen of erop reageren en daarop afstemmen. En je kunt er ook aan denken dat deze technologie wordt gebruikt als een manier om de emoties die we voelen te beheersen. Dus als je het had over een emotiepaspoort, zou je kunnen zeggen: ik voel me chagrijnig, ik voel me slecht en ik wil dat mijn apparaten en mijn technologie daarop reageren. Of je zou daar naar kunnen kijken omdat mijn van die apparaten me op de een of andere manier uit die emotie moeten halen. En het is best interessant om over na te denken. Het kan alle kanten op. En je weet dat ik veronderstel dat ik mijn eigen stem heb over welke kant ik het meest op mijn gemak zou voelen.
Nacht: En idealiter zouden de systemen je goed genoeg begrijpen, wat op dat moment gepast zou zijn. Omdat we hier toestaan dat deze gegevens longitudinaal worden gevolgd en misschien in de ochtend zou een apparaat voor thuisgebruik dat ik gebruik kunnen zeggen, zoals, Hé Gabi, het lijkt alsof je niet zo gelukkig bent als gisterochtend. Ik kan ook zien dat je niet echt de 7 uur hebt geslapen die voor jou optimaal zijn. Wil je dat ik deze muziekafspeellijst ooit aanzet? En misschien wil je vandaag niet dat de rit naar je werk gaat. Waarom bestel ik geen ritaandeel voor je? Of het koffiezetapparaat is net begonnen in de keuken. Of vice versa. Dus je komt thuis van je werk en het is alsof je een hele zware dag op je werk hebt gehad. Ik heb een restaurantreservering voor je gemaakt en de oppas komt voor je kind. Ja. En het idee is dat deze met, laten we het een emotiepaspoort noemen, dat onze systemen en de technologieën die we gebruiken, inzicht geeft in onze persoonlijke staat en welzijn, het idee is dat het ons kan helpen begeleiden en adviseren en in wezen proberen ons leven beter of effectiever te maken. Natuurlijk zou ik persoonlijk willen dat ik altijd de controle heb over mijn opt-in en toestemming. Misschien wil ik niet dat mijn welzijnsgegevens naar mijn arts of, God verhoede, naar mijn verzekeringsmaatschappij worden gestuurd. Maar misschien is dat in sommige situaties handig. En in staat zijn om onze technologieën een dieper inzicht te geven in ons welzijn en onze toestand, kan van cruciaal belang zijn.
Elisabeth: Prachtig. Nou bedankt, Gabi, dit was erg interessant. Dit is een spannend gebied van ontwikkeling en we wensen je veel succes.
Nacht: Heel erg bedankt en bedankt dat je met me hebt gesproken. Het waren zulke geweldige vragen. Ik vond het erg leuk om met je te praten. Dank u.
Elisabeth: Dat was het voor deze aflevering van Business Lab. Ik ben je gastheer Elizabeth Bramson-Boudreau. Ik ben CEO en uitgever van MIT Technology Review. We zijn in 1899 opgericht aan het Massachusetts Institute of Technology. Je kunt ons vinden in gedrukte vorm, op het web, bij tientallen live-evenementen per jaar, en nu in audiovorm. Op onze website, TechnologyReview.com, kunt u meer over ons te weten komen. En vergeet niet om u aan te melden voor het MIT Technology Review Global Panel, een groep van opinieleiders, innovators en executives, waar u kunt leren van uw collega's en uw expertise kunt delen over de technologie en zakelijke trends van vandaag. Solliciteer op TechnologyReview.com/globalpanel. Deze show is overal beschikbaar waar je je podcasts vandaan haalt. Als je deze aflevering leuk vond, hopen we dat je even de tijd wilt nemen om ons te beoordelen en te beoordelen op Apple Podcasts. Business Lab is een productie van MIT Technology Review. De producer is Wade Roush met redactionele hulp van Mindy Blodgett. Speciale dank aan onze gast Gabi Zijderveld. Bedankt voor het luisteren. We zijn snel terug met een nieuwe aflevering.