Google Foto's heeft nog steeds een probleem met gorilla's

Categorie: Kunstmatige intelligentie Geplaatst 11 januari

In 2015 kreeg Google kritiek toen het Foto's-beeldherkenningssysteem een zwarte vrouw verkeerd bestempeld als een gorilla - maar twee jaar later is het probleem nog steeds niet goed opgelost. In plaats daarvan heeft Google afbeeldingstags met betrekking tot veel primaten gecensureerd.

Wat is er nieuw: Bedrade getest Google Foto's weer met een heleboel dierenfoto's. De software kan met gemak wezens van panda's tot poedels identificeren. Maar afbeeldingen van gorilla's, chimpansees en chimpansees? Ze zijn nooit geëtiketteerd. Bedrade bevestigd met Google dat die tags worden gecensureerd.

Maar: Sommige van de andere computervisiesystemen van Google, zoals Cloud Vision, waren in staat om foto's van gorilla's correct te taggen en gebruikers antwoorden te geven. Dat suggereert dat het verwijderen van tags een platformspecifieke, schaamteloze PR-beweging is.

Groter dan censuur: Menselijke vooroordelen komen overal in datasets voor en weerspiegelen de facetten van de mensheid waarvan we liever niet hebben dat machines ze leren. Maar het verminderen en verwijderen van die vooringenomenheid zal veel meer werk vergen dan alleen maar labels op de zwarte lijst zetten.