Apple Card wordt onderzocht wegens beweringen dat het vrouwen lagere kredietlimieten geeft

Categorie: Kunstmatige intelligentie Geplaatst 11 november

Het algoritme dat de kredietlimiet bepaalt voor gebruikers van de nieuwe creditcard van Apple, die in augustus in de VS werd gelanceerd, staat voor een onderzoek omdat het mannen hogere limieten lijkt te geven dan vrouwen.

Het nieuws: Op 7 november, webondernemer David Heinemeier Hansson plaatste een nu virale tweet zeggen dat de Apple Card hem 20 keer de kredietlimiet van zijn vrouw had gegeven. Dit ondanks het feit dat ze gezamenlijke belastingaangiften hadden ingediend en dat zijn vrouw bij onderzoek een betere kredietscore had dan hij. Apple-medeoprichter Steve Wozniak antwoordde op de tweet en zei dat ook hij 10 keer de kredietlimiet van zijn vrouw had gekregen, ook al hebben ze geen afzonderlijke activa of bankrekeningen.

Resultaat: Nu start het Department of Financial Services van New York een onderzoek naar Goldman Sachs, die de kaart beheert. De inspecteur, Linda Lacewell, zei in een blogpost dat de waakhond zou onderzoeken of het algoritme dat wordt gebruikt om deze kredietlimietbeslissingen te nemen, staatswetten schendt die discriminatie op grond van geslacht verbieden. De regelaar heeft al onlangs een onderzoek geopend in rapporten dat een algoritme ertoe leidde dat zwarte patiënten minder uitgebreide zorg kregen dan blanke patiënten.

Breder probleem: Goldman Sachs plaatste afgelopen weekend een verklaring op Twitter waarin hij stelt dat er bij het bepalen van de kredietwaardigheid geen rekening wordt gehouden met geslacht. Maar de onverklaarbare ongelijkheid in de kredietlimieten van de kaart is nog een ander voorbeeld van hoe algoritmische vooringenomenheid onbedoeld kan worden gecreëerd. Algoritmen van het soort dat wordt gebruikt om kredietwaardigheid te beoordelen, zijn getraind op jarenlange historische gegevens, en vooringenomenheid kan op een aantal verschillende manieren in het proces sluipen.