De online foto's van mensen worden zonder toestemming gebruikt om gezichtsherkenning AI te trainen

Categorie: Kunstmatige intelligentie Geplaatst 13 maart

Foto's van gezichten van mensen worden routinematig van websites gehaald om algoritmen voor gezichtsherkenning te helpen ontwikkelen, zonder toestemming van de proefpersonen, een rapport van NBC onthult.

Het laatste voorbeeld: In januari IBM heeft een dataset uitgebracht van bijna een miljoen foto's die waren geschraapt van de website voor het delen van foto's Flickr en vervolgens geannoteerd met informatie over details zoals huidskleur. Het bedrijf pitchte dit als onderdeel van pogingen om het (zeer reële) probleem van vooringenomenheid binnen gezichtsherkenning te verminderen. Het heeft echter van niemand toestemming gekregen om dit te doen, en het is bijna onmogelijk om de foto's te verwijderen.

Vies geheim: IBM is verre van alleen. Terwijl bedrijven hun best doen om hun gezichtsherkenningstechnologie te verbeteren, hebben ze toegang nodig tot enorme aantallen afbeeldingen om hun algoritmen te voeden. Gewoon afbeeldingen maken die al naar internet zijn geüpload, is een zeer snelle, maar ethisch twijfelachtige, manier om dat te doen.

Snelle vooruitgang: Gezichtsherkenning kan handig zijn om je telefoon te ontgrendelen, maar het kan ook een krachtige bewakingstool zijn. Het gebruik ervan breidt zich snel uit, vrijwel zonder toezicht, wat leidt tot een groeiende vraag om de technologie te reguleren.

Een spanning: Algoritmen voor gezichtsherkenning hebben een slechte staat van dienst als het gaat om het identificeren van niet-blanke gezichten, en systemen kunnen: verkeerde mensen op basis van bijvoorbeeld de lengte van hun haar. Een manier om dit tegen te gaan, is door meer afbeeldingen van bijvoorbeeld zwarte vrouwen of mannen met lang haar toe te voegen aan de trainingsgegevens. Maar als ze dit doen zonder de toestemming van mensen te krijgen voordat ze hun foto's gebruiken, zullen velen zich zeer ongemakkelijk voelen.

Meld u hier aan voor onze dagelijkse nieuwsbrief The Download om uw dosis van het laatste must-read nieuws uit de wereld van opkomende technologie te ontvangen.