211service.com
Emotion AI-onderzoekers zeggen dat overdreven claims hun werk een slechte naam geven
Een illustratie. Aan de linkerkant, verspreide uitsnijdingen van gezichtsdelen zoals ogen en monden in een doos. Midden: een compleet gezicht, ogen gesloten. Rechts: een netwerk in de vorm van een hoofd. Franziska Barczyk
Misschien heb je wel eens gehoord van AI die interviews houdt. Of misschien ben je zelf door iemand geïnterviewd. Bedrijven zoals HireVue beweren dat hun software video-interviews kan analyseren om de kandidaten van een kandidaat te achterhalen inzetbaarheidsscore . De algoritmen evalueren niet alleen de gezichts- en lichaamshouding op uiterlijk; ze vertellen werkgevers ook of de geïnterviewde is vasthoudend, of goed in het werken in een team . Deze beoordelingen kunnen een groot effect hebben op de toekomst van een kandidaat. In de ons en Zuid-Korea , waar AI-ondersteund inhuren steeds populairder is geworden, trainen loopbaanadviseurs nu nieuwe afgestudeerden en werkzoekenden in het interviewen met een algoritme. Deze technologie wordt ook ingezet bij kinderen in klaslokalen en is gebruikt in onderzoeken om bedrog in rechtszaalvideo's op te sporen .
Maar veel van deze beloften worden niet ondersteund door wetenschappelijke consensus. Er zijn geen sterke, collegiaal getoetste onderzoeken die aantonen dat het analyseren van lichaamshouding of gezichtsuitdrukkingen kan helpen bij het kiezen van de beste werknemers of studenten (deels omdat bedrijven geheimzinnig zijn over hun methoden). Als gevolg hiervan is de hype rond emotieherkenning, die P naar verwachting een markt van $ 25 miljard tegen 2023 , heeft geleid tot een terugslag van technische ethici en activisten die vrezen dat de technologie dezelfde soort discriminatieproblemen zou kunnen veroorzaken als voorspellende veroordeling of huisvestingsalgoritmen voor verhuurders die beslissen aan wie ze willen verhuren.
De hype baart de onderzoekers ook zorgen. Velen zijn het erover eens dat hun werk - dat verschillende methoden gebruikt (zoals het analyseren van micro-uitdrukkingen of stem) om menselijke uitdrukkingen te onderscheiden en te interpreteren - wordt gecoöpteerd en gebruikt in commerciële toepassingen die een wankele basis hebben in de wetenschap. Ze zeggen dat een gebrek aan overheidsregulering niet alleen slecht is voor de consument. Het is ook slecht voor hen.
Het goede en het slechte
Emotieherkenning, een subset van affective computing, is nog steeds een ontluikende technologie. Terwijl AI-onderzoekers de grenzen hebben getest van wat we wel en niet kunnen kwantificeren over menselijk gedrag, is de onderliggende wetenschap van emoties blijven ontwikkelen. Er zijn nog steeds meerdere theorieën, bijvoorbeeld over de vraag of emoties discreet kunnen worden onderscheiden of op een continuüm vallen. Ondertussen kunnen dezelfde uitdrukkingen verschillende dingen betekenen in verschillende culturen. In juli, een meta-studie concludeerde dat het niet mogelijk is om emoties te beoordelen door alleen maar naar iemands gezicht te kijken. Het onderzoek kreeg veel aandacht (ook in deze publicatie), vaak met koppen die suggereerden dat: emotieherkenning is niet te vertrouwen .
Emotieherkenningsonderzoekers zijn zich al bewust van deze beperking. Degenen met wie we spraken waren voorzichtig met het claimen van wat hun werk wel en niet kan doen. Velen benadrukten dat emotieherkenning de interne emoties en ervaringen van een persoon niet echt kan beoordelen. Het kan alleen inschatten hoe de emoties van die persoon door anderen worden waargenomen, of brede, op de bevolking gebaseerde trends suggereren (zoals de ene film die gemiddeld een positievere reactie oproept dan de andere). Geen enkele serieuze onderzoeker zou beweren dat je actie-eenheden in het gezicht kunt analyseren en dan weet je echt wat mensen denken, zegt Elisabeth André, een affectieve informatica-expert aan de Universiteit van Augsburg.
Onderzoekers merken ook op dat emotieherkenning veel meer inhoudt dan alleen naar iemands gezicht kijken. Het kan ook betrekking hebben op het observeren van lichaamshouding, gang en andere kenmerken, evenals het gebruik van biometrische sensoren en audio om meer holistische gegevens te verzamelen.
Dergelijke onderscheidingen zijn fijn maar belangrijk: ze diskwalificeren toepassingen zoals HireVue, die beweren de inherente competentie van een persoon te beoordelen, maar andere ondersteunen, zoals technologieën die erop gericht zijn machines te maken tot intelligentere medewerkers en metgezellen voor mensen. (HireVue reageerde niet op een verzoek om commentaar.) Een humanoïde robot kon glimlachen als je glimlachte - een spiegelende actie die mensen vaak gebruiken om interacties natuurlijker te laten voelen. Een draagbaar apparaat kan u eraan herinneren om te rusten als het hoger dan de basisniveaus van cortisol, het stresshormoon van het lichaam, detecteert. Geen van deze toepassingen vereist een algoritme om uw persoonlijke gedachten en gevoelens te beoordelen; ze vereisen alleen een schatting van een passende reactie op cortisolspiegels of lichaamstaal. Ze nemen ook geen belangrijke beslissingen over het leven van een persoon, in tegenstelling tot onbewezen wervingsalgoritmen. Als we willen dat computers en computersystemen ons helpen, zou het positief zijn als ze een idee zouden hebben van hoe we ons voelen, zegt Nuria Oliver, de belangrijkste datawetenschapper bij de non-profit DataPop Alliance.
Maar veel van deze nuance gaat verloren wanneer onderzoek naar emotieherkenning wordt gebruikt om lucratieve commerciële toepassingen te maken. Dezelfde algoritmen voor stressmonitoring in een wearable kunnen worden gebruikt door een bedrijf dat probeert te controleren of u hard genoeg werkt. Zelfs voor bedrijven als Affectiva, opgericht door onderzoekers die spreken over het belang van privacy en ethiek, zijn de grenzen moeilijk te definiëren. Het heeft verkocht zijn technologie aan HireVue . (Affectiva weigerde commentaar te geven op specifieke bedrijven.)
Een oproep tot regulering
In december riep onderzoeksinstituut AI Now op tot een verbod op emotieherkenningstechnologieën bij belangrijke beslissingen die het leven van mensen beïnvloeden . Het is een van de eerste oproepen om een technologie te verbieden die minder regelgevende aandacht heeft gekregen dan andere vormen van kunstmatige intelligentie, ook al kan het gebruik ervan bij het screenen van banen en klaslokalen ernstige gevolgen hebben.
Daarentegen hield het Congres zojuist zijn derde hoorzitting over gezichtsherkenning in minder dan een jaar , en het heeft een probleem worden bij de verkiezingen van 2020 . Activisten proberen gezichtsherkenningstechnologieën te boycotten en verschillende vertegenwoordigers erkennen de noodzaak van regulering in zowel de private als de publieke sector. Voor affective computing zijn er niet zoveel toegewijde campagnes en werkgroepen geweest, en pogingen tot regulering zijn beperkt. Een wet uit Illinois AI-analyse van video's van sollicitatiegesprekken reguleren werd in januari van kracht en de Federal Trade Commission is gevraagd om H ireVue te onderzoeken (hoewel er geen woord is over of het van plan is dit te doen).
Hoewel veel onderzoekers een verbod te breed vinden, zijn ze het erover eens dat een regelgevingsvacuüm ook schadelijk is. We hebben duidelijk gedefinieerde processen om te certificeren dat bepaalde producten die we consumeren - of het nu gaat om voedsel dat we eten, of het nu medicijnen zijn die we nemen - ze veilig voor ons zijn om ze in te nemen, en ze doen echt wat ze beweren dat ze doen, zegt Oliver . We hebben niet dezelfde processen voor technologie. Ze vindt dat bedrijven waarvan de technologieën het leven van mensen aanzienlijk kunnen beïnvloeden, moeten bewijzen dat ze aan een bepaalde veiligheidsnorm voldoen.
Rosalind Picard, een professor aan het MIT Media Lab en medeoprichter van Affectiva en een andere affectieve computerstartup, Empatica, herhaalt dit sentiment. Voor een bestaand reguleringsmodel wijst ze op de Wet bescherming polygraaf werknemers beperking van het gebruik van leugendetectoren, die volgens haar in wezen een affectieve computertechnologie zijn. De wet verbiedt bijvoorbeeld de meeste particuliere werkgevers om polygrafen te gebruiken en laat werkgevers niet vragen naar de resultaten van leugendetectortests.
Ze stelt voor dat elk gebruik van dergelijke technologieën opt-in moet zijn en dat bedrijven moeten worden verplicht om openbaar te maken hoe hun technologieën zijn getest en wat hun beperkingen zijn. Wat we vandaag hebben, is dat [bedrijven] deze schandalige beweringen kunnen doen die gewoon onjuist zijn, omdat de koper op dit moment niet zo goed opgeleid is, zegt ze. En we zouden niet moeten eisen dat de kopers goed opgeleid zijn. (Picard, die zegt dat ze Affectiva in 2013 heeft verlaten, ondersteunt de beweringen van HireVue niet.)
Van haar kant benadrukt Meredith Whittaker, een onderzoekswetenschapper aan NYU en mededirecteur van AI Now, het verschil tussen onderzoek en commercialisering. We betwisten niet het hele veld van affective computing, zegt ze. We roepen met name de niet-gereguleerde, niet-gevalideerde, wetenschappelijk ongegronde inzet van commerciële affectherkenningstechnologieën op. Commercialisering schaadt mensen op dit moment, mogelijk, omdat het claims maakt die bepalend zijn voor de toegang van mensen tot hulpbronnen.
Een verbod op het gebruik van emotieherkenning in toepassingen zoals het screenen van banen zou helpen voorkomen dat commercialisering de wetenschap overtreft. Stop eerst de inzet van de technologieën, zegt ze, en investeer dan in onderzoek. Als het onderzoek bevestigt dat de technologieën werken zoals bedrijven beweren, overweeg dan om het verbod te versoepelen.
Er zijn echter nog steeds andere voorschriften nodig om mensen te beschermen: er is uiteindelijk meer te overwegen, stelt Whittaker, dan alleen wetenschappelijke geloofwaardigheid. Wanneer deze systemen in gevoelige contexten worden gebruikt, moeten we ervoor zorgen dat ze betwistbaar zijn, dat ze eerlijk worden gebruikt, zegt ze, en dat ze niet leiden tot grotere machtsasymmetrieën tussen de mensen die ze gebruiken en de mensen op wie ze zijn gebruikt.