IBM zegt dat het niet langer werkt aan gezichtsherkenning omdat het wordt gebruikt voor raciale profilering

Categorie: Kunstmatige intelligentie Geplaatst 09 juni

Het nieuws: IBM heeft gezegd dat het bedrijf zal stoppen met het ontwikkelen of verkopen van gezichtsherkenningssoftware vanwege zorgen dat de technologie wordt gebruikt om racisme te promoten. In een brief aan het congres , IBM's CEO Arvind Krishna zei dat de technologiegigant zich verzet tegen elke technologie die wordt gebruikt voor massasurveillance, raciale profilering en schendingen van fundamentele mensenrechten en vrijheden.

Hij riep op tot een nationale dialoog over de vraag of en hoe het geschikt is om gezichtsherkenningstechnologie te gebruiken door binnenlandse wetshandhavingsinstanties. De brief riep ook op tot nieuwe federale regels om wangedrag van de politie aan te pakken, en meer training en opleiding voor veelgevraagde vaardigheden om de economische kansen voor mensen van kleur te verbeteren.

Geen nieuwe zorg: Activisten en experts wijzen er al jaren op dat gezichtsherkenningssystemen bevooroordeeld zijn en uiten hun bezorgdheid over de potentieel voor misbruik . Hun zorgen zijn legitiem: mijlpaal studie door het Amerikaanse National Institute of Standards and Technology vorig jaar bevestigde dat de meeste gezichtsherkenningsalgoritmen slechter presteerden op niet-blanke gezichten.

Hoe het is ontvangen: IBM is het eerste grote technologiebedrijf dat zich terugtrekt uit de ontwikkeling van de technologie. Hoewel het nieuws breed is ontvangen positief door techwerkers, en met name campagnevoerders die zich zorgen maken over het gebruik van gezichtsherkenning, critici heb erop gewezen dat het voor IBM nauwelijks een grote opoffering is om te stoppen met een markt waar het in het begin nauwelijks voet aan de grond had.

Desondanks is het nog steeds een groot technologiebedrijf dat een ongewoon sterk moreel standpunt inneemt over een van de meest controversiële onderwerpen van de dag. Het komt vooral op het juiste moment, gezien de aanhoudende protesten tegen politiegeweld en racisme in de VS en over de hele wereld. Maar het is onduidelijk of het een eenmalige verandering van IBM zal blijven of een zet die andere technologiebedrijven aanzet tot actie.