Zelfrijdende auto's hebben meer kans om je te raken als je een donkere huid hebt

Categorie: Kunstmatige intelligentie Geplaatst 01 maart

Onderzoekers van het Georgia Institute of Technology gevonden dat state-of-the-art objectherkenningssystemen minder nauwkeurig zijn in het detecteren van voetgangers met een donkere huidskleur.

Crashtesten: De onderzoekers testten acht beeldherkenningssystemen (elk getraind op een standaard dataset) tegen een grote pool van voetgangersbeelden. Ze verdeelden de voetgangers in twee groepen voor lichtere en donkere huidtinten volgens de Fitzpatrick huidtype schaal , een manier om de kleur van de menselijke huid te classificeren.

Kleur gecodeerd: De detectienauwkeurigheid van de systemen bleek gemiddeld vijf procentpunten lager te zijn bij de groep met een donkere huid. Dit gold zelfs bij controle voor het tijdstip van de dag en belemmerd zicht.

Onder de motorkap: Door verdere analyse stelden de onderzoekers vast dat de vertekening waarschijnlijk door twee dingen werd veroorzaakt: te weinig voorbeelden van voetgangers met een donkere huidskleur en te weinig nadruk op het leren van die voorbeelden. Ze zeggen dat de vertekening kan worden verzacht door zowel de gegevens als het algoritme aan te passen.

Een eerdere versie van dit verhaal verscheen oorspronkelijk in onze AI-nieuwsbrief The Algorithm. Om het direct in je inbox te krijgen, kun je je hier gratis aanmelden.