Emotieherkenningstechnologie moet worden verboden, zegt een AI-onderzoeksinstituut

Categorie: Kunstmatige intelligentie Geplaatst 13 dec

Er is weinig wetenschappelijke basis voor technologie voor emotieherkenning, dus het moet worden verboden om het te gebruiken bij beslissingen die het leven van mensen beïnvloeden, zegt onderzoeksinstituut AI Now in zijn jaarverslag .

Een bloeiende markt: Ondanks het gebrek aan bewijs dat machines kunnen bepalen hoe we ons voelen, wordt emotieherkenning geschat op een markt van minstens 20 miljard dollar, en het is snel groeiend . De technologie wordt momenteel gebruikt om sollicitanten en verdachten van misdrijven te beoordelen, en wordt getest voor verdere toepassingen, zoals in VR-headsets om de emotionele toestanden van gamers af te leiden.

Verdere problemen: Er is ook bewijs dat emotieherkenning kan rassen- en geslachtsverschillen versterken . Regelgevers moeten ingrijpen om het gebruik ervan sterk te beperken, en tot die tijd moeten AI-bedrijven stoppen met de implementatie ervan, zei AI Now. Het citeerde met name een recent onderzoek van de Association for Psychological Science, dat twee jaar lang meer dan 1.000 artikelen over emotiedetectie heeft beoordeeld en tot de conclusie is gekomen dat het heel moeilijk is om alleen gezichtsuitdrukkingen te gebruiken om nauwkeurig te vertellen hoe iemand zich voelt.

Andere zorgen: In zijn rapport riep AI Now regeringen en bedrijven op om te stoppen met het gebruik van gezichtsherkenningstechnologie voor gevoelige toepassingen totdat de risico's goed zijn bestudeerd, en viel de AI-industrie aan vanwege zijn systematische racisme, vrouwenhaat en gebrek aan diversiteit. Het riep ook op tot verplichte openbaarmaking van de milieu-impact van de AI-industrie.