211service.com
Het VK laat een immigratie-algoritme vallen dat volgens critici racistisch is
James Cridland / Flickr
Het nieuws: Het Britse ministerie van Binnenlandse Zaken heeft gezegd dat het zal stop met het gebruik van een algoritme om visumaanvragen te verwerken die volgens critici racistisch bevooroordeeld zijn. Tegenstanders ervan ruzie maken dat het gebruik van nationaliteit door het algoritme om te beslissen welke applicaties versneld worden gevolgd, heeft geleid tot een systeem waarin mensen uit rijke blanke landen Speedy Boarding krijgen; armere mensen van kleur worden naar de achterkant van de rij geduwd.
Tijd voor een herontwerp: Het ministerie van Binnenlandse Zaken ontkent dat zijn systeem racistisch bevooroordeeld is en de rechtszaken lopen nog steeds. Toch heeft het ministerie van Binnenlandse Zaken ermee ingestemd het algoritme te laten vallen en is het van plan om later dit jaar een opnieuw ontworpen versie opnieuw te lanceren, na een volledige beoordeling te hebben uitgevoerd waarbij wordt gekeken naar onbewuste vooroordelen. In de tussentijd zal het VK een tijdelijk systeem invoeren dat geen nationaliteit gebruikt om aanvragen te sorteren.
Verkeerssysteem: Sinds 2015 filtert het VK visumaanvragen met behulp van een verkeerslichtsysteem dat aan elke aanvrager een rood, oranje of groen risiconiveau toewijst. Mensen met een rood risiconiveau werden vaker geweigerd.
Bredere trend: Van algoritmen is bekend dat ze verankeren institutionele vooroordelen , vooral racistische. Toch worden ze steeds meer gebruikt om belangrijke beslissingen te helpen nemen, van kredietcontroles tot visumaanvragen tot hoorzittingen en politiecontroles . Critici hebben geklaagd dat het Amerikaanse immigratiesysteem... racistisch bevooroordeeld te. Maar in de meeste gevallen is het moeilijk om uit te pakken hoe deze algoritmen precies werken en bewijs van hun vooringenomenheid aan het licht te brengen, omdat veel eigendomsrechtelijk beschermd zijn en er weinig publiek toezicht op het gebruik ervan staat.
Maar de kritiek groeit. In de VS schorsen sommige politiediensten controversiële voorspellende algoritmen en technologiebedrijven hebben gestopt met het leveren van vooringenomen gezichtsherkenningstechnologie . In februari een Nederlandse rechtbank oordeelde dat een systeem dat voorspelde hoe waarschijnlijk het was dat een persoon uitkerings- of belastingfraude zou plegen, onwettig was omdat het onterecht gericht was op minderheden. Het besluit van het Britse ministerie van Binnenlandse Zaken om zijn systeem te herzien zonder te wachten op een juridische uitspraak, zou een mijlpaal kunnen zijn.