De nieuwe AI-glimlachdetector van Google laat zien hoe het omarmen van ras en geslacht vooroordelen kan verminderen

Categorie: Geen categorie Geplaatst 04 december

Computervisie wordt steeds beter in het herkennen van verschillende gezichtsuitdrukkingen, maar voor bepaalde groepen die niet voldoende vertegenwoordigd zijn in trainingsdatasets, zoals raciale minderheden of vrouwen met androgyne kenmerken, kunnen algoritmen nog steeds ondermaats presteren.

Een nieuw artikel gepubliceerd in arXiv door Google-onderzoekers heeft geavanceerde algoritmen voor glimlachdetectie verbeterd door raciale en geslachtsclassificaties in hun model op te nemen en te trainen. De raciale classifier werd getraind op vier rassensubgroepen en twee voor geslacht (de onderzoekers noemden de raciale groepen niet, maar de afbeeldingen lijken te bestaan ​​uit Aziatische, zwarte, Spaanse en blanke mensen).

Hun methode bereikte een nauwkeurigheid van bijna 91 procent bij het detecteren van glimlachen in de Faces of the World (FotW) dataset, een set van 13.000 afbeeldingen van gezichten verzameld van het web die soms wordt gebruikt als een benchmark voor dergelijke algoritmen. Dat is een verbetering van iets meer dan 1,5 procent ten opzichte van het vorige cijfer. De resultaten toonden een algehele verbeterde nauwkeurigheid over de hele linie, wat aantoont dat aandacht besteden aan ras en geslacht betere resultaten kan opleveren dan proberen een algoritme te bouwen dat kleurenblind is.

Veel onderzoekers aarzelen om dergelijke classificaties op te nemen in de veronderstelling dat het gemakkelijker is om schuldig te zijn aan vooringenomenheid (of er op zijn minst van beschuldigd te worden) wanneer uw systeem expliciete raciale of geslachtscategorieën heeft. De resultaten van het Google-team bewijzen dat de inspanningen om raciale of geslachtsclassificaties te trainen het probleem van vooroordelen daadwerkelijk kunnen verminderen. De onderzoekers gebruikten ook classificaties zoals Gender 1 en Gender 2 om zoveel mogelijk onbewuste, maatschappelijke vooroordelen te vermijden.

Zelfs met de veelbelovende resultaten en de zorgvuldigheid die is betracht om zich bewust te zijn van vooringenomenheid in al zijn vormen, hebben de onderzoekers een sectie in hun paper opgenomen genaamd Ethical Considerations, waarin ze er alles aan doen om op te merken dat hun werk niet bedoeld is om ras en geslacht te motiveren. identificatie als einddoel. Ze wijzen er ook op dat er geen gouden standaard is voor het opsplitsen van raciale categorieën, en dat geslacht in toekomstig werk misschien als een spectrum moet worden beschouwd, in plaats van als een binaire staat.