AI stuurt mensen naar de gevangenis - en dat doet het verkeerd

Ian Waldie/Getty Images

AI lijkt misschien geen enorme persoonlijke impact te hebben als je meest frequente penseel met algoritmen voor machine learning is via de nieuwsfeed van Facebook of de zoekresultaten van Google. Maar bij de Gegevens voor zwarte levens op de conferentie afgelopen weekend, grepen technologen, juridische experts en gemeenschapsactivisten de zaken in perspectief met een discussie over het Amerikaanse strafrechtsysteem. Daar kan een algoritme het traject van je leven bepalen.

De VS zet meer mensen gevangen dan enig ander land ter wereld. Eind 2016, bijna 2,2 miljoen volwassenen werden vastgehouden in gevangenissen of gevangenissen, en nog eens 4,5 miljoen in andere penitentiaire inrichtingen. Anders gezegd, 1 op de 38 volwassen Amerikanen stond onder een of andere vorm van correctioneel toezicht. De nachtmerrie van deze situatie is een van de weinige problemen die politici aan beide kanten van het gangpad verenigen.

Onder enorme druk om het aantal gevangenissen te verminderen zonder de misdaad te riskeren, hebben rechtszalen in de VS geautomatiseerde hulpmiddelen gebruikt in pogingen om verdachten zo efficiënt en veilig mogelijk door het rechtssysteem te loodsen. Dit is waar het AI-gedeelte van ons verhaal begint.

Politiediensten gebruiken voorspellende algoritmen om te bepalen waar ze hun rangen naartoe moeten sturen. Wetshandhavingsinstanties gebruiken gezichtsherkenningssystemen om verdachten te identificeren. Deze praktijken hebben welverdiende kritiek gekregen op de vraag of ze in feite de veiligheid verbeteren of gewoon bestaande ongelijkheden bestendigen. Onderzoekers en voorvechters van burgerrechten , hebben bijvoorbeeld herhaaldelijk aangetoond dat gezichtsherkenningssystemen op spectaculaire wijze kunnen falen, met name voor mensen met een donkere huidskleur, en zelfs leden van het Congres aanmerken voor veroordeelde criminelen.

Maar verreweg het meest controversiële instrument komt nadat de politie een arrestatie heeft verricht. Zeg hallo tegen algoritmen voor de beoordeling van criminele risico's.

Instrumenten voor risicobeoordeling zijn ontworpen om één ding te doen: de details van het profiel van een verdachte opnemen en een recidivescore uitspugen - een enkel getal dat de waarschijnlijkheid schat dat hij of zij zal recidiveren. Een rechter houdt dan rekening met een groot aantal beslissingen die kunnen bepalen welk type rehabilitatiediensten bepaalde verdachten moeten krijgen, of ze vóór het proces in de gevangenis moeten worden vastgehouden en hoe zwaar hun straffen moeten zijn. Een lage score maakt de weg vrij voor een vriendelijker lot. Een hoge score doet precies het tegenovergestelde.

De logica voor het gebruik van dergelijke algoritmische instrumenten is dat als je crimineel gedrag nauwkeurig kunt voorspellen, je dienovereenkomstig middelen kunt toewijzen, of het nu gaat om rehabilitatie of gevangenisstraffen. In theorie vermindert het ook eventuele vooroordelen die het proces beïnvloeden, omdat rechters beslissingen nemen op basis van gegevensgestuurde aanbevelingen en niet op basis van hun gevoel.

Misschien heb je het probleem al opgemerkt. Moderne instrumenten voor risicobeoordeling worden vaak aangedreven door algoritmen die zijn getraind op historische misdaadgegevens.

Zoals we eerder hebben besproken, gebruiken algoritmen voor machine learning statistieken om patronen in gegevens te vinden. Dus als je het historische misdaadgegevens invoert, zal het de patronen ontdekken die verband houden met misdaad. Maar die patronen zijn statistisch correlaties —niets in de buurt van hetzelfde als oorzakelijk verband . Als een algoritme bijvoorbeeld zou vaststellen dat een laag inkomen samenhangt met een hoge recidive, dan zou je er niet wijzer van worden of een laag inkomen daadwerkelijk de oorzaak is van criminaliteit. Maar dit is precies wat risicobeoordelingsinstrumenten doen: ze zetten correlatieve inzichten om in causale scoremechanismen.

Nu lopen populaties die in het verleden onevenredig het doelwit zijn geweest van wetshandhavers - met name lage inkomens en minderheidsgemeenschappen - het risico te worden geslagen met hoge recidivescores. Als gevolg hiervan zou het algoritme ingebedde vooroordelen kunnen versterken en bestendigen en nog meer met vooroordelen aangetaste gegevens kunnen genereren om een ​​vicieuze cirkel te voeden. Omdat de meeste algoritmen voor risicobeoordeling eigendom zijn, is het ook onmogelijk om hun beslissingen te ondervragen of verantwoordelijk te houden.

Het debat over deze instrumenten woedt nog steeds voort. Afgelopen juli hebben meer dan 100 burgerrechten- en gemeenschapsorganisaties, waaronder de ACLU en de NAACP, ondertekend een verklaring waarin wordt opgeroepen tegen het gebruik van risicobeoordeling. Tegelijkertijd hebben steeds meer rechtsgebieden en staten, waaronder Californië, zich tot hen gewend in een poging om hun overbelaste gevangenissen en gevangenissen op te lossen.

Gegevensgestuurde risicobeoordeling is een manier om onderdrukkende systemen te zuiveren en te legitimeren, zei Marbre Stahly-Butts, uitvoerend directeur van Law for Black Lives. op het podium tijdens de conferentie , die werd gehost in het MIT Media Lab. Het is een manier om de aandacht af te leiden van de werkelijke problemen waarmee lage-inkomens- en minderheidsgemeenschappen te maken hebben, zoals slecht betaalde scholen en gebrekkige toegang tot gezondheidszorg.

We zijn geen risico's, zei ze. We zijn behoeften.

Dit verhaal verscheen oorspronkelijk in onze AI-nieuwsbrief The Algorithm. Schrijf je hier gratis in om het direct in je inbox te krijgen.

zich verstoppen