211service.com
Hoe rechters upgraden met machine learning
Jon Han
Wanneer moet een strafrechtelijke verdachte zijn proces in de gevangenis afwachten in plaats van thuis? Software kan het vermogen van rechters om die oproep te doen aanzienlijk verbeteren, waardoor de misdaad of het aantal mensen dat vastzit in de gevangenis wordt verminderd.
In een nieuwe studie van het National Bureau of Economic Research, hebben economen en computerwetenschappers een algoritme getraind om te voorspellen of verdachten een vluchtrisico vormden op basis van hun strafblad en gerechtelijke dossiers met behulp van gegevens van honderdduizenden zaken in New York City. Toen het werd getest op meer dan honderdduizend zaken die het nog niet eerder had gezien, bleek het algoritme beter te voorspellen wat verdachten na hun vrijlating zullen doen dan rechters.
Jon Kleinberg , een professor computerwetenschappen aan Cornell die bij het onderzoek betrokken was, zegt dat een van de doelen van het project was om beleidsmakers de potentiële voordelen voor de samenleving te laten zien van het gebruik van machine learning in het strafrechtsysteem. Dit laat zien hoe machine learning kan helpen, zelfs in contexten waar veel menselijke expertise wordt ingezet, zegt Kleinberg, die aan het project werkte met onderzoekers van Stanford, Harvard en de Universiteit van Chicago.
Ze schatten dat het advies van hun algoritme voor New York City de misdaad door verdachten die op hun proces wachten met maar liefst 25 procent zou kunnen verminderen zonder het aantal mensen dat in de gevangenis wacht te veranderen. Als alternatief kan het worden gebruikt om de gevangenispopulatie in afwachting van een proces met meer dan 40 procent te verminderen, terwijl het misdaadcijfer door verdachten ongewijzigd blijft. Het herhalen van het experiment op gegevens van 40 grote stedelijke provincies in de VS leverde vergelijkbare resultaten op.
Als bonus waren dergelijke winsten mogelijk, terwijl tegelijkertijd de gevangenispopulatie werd verschoven naar een kleiner deel van Afro-Amerikanen en Hispanics.
Het algoritme kent verdachten een risicoscore toe op basis van gegevens uit de dossiers voor hun huidige zaak en hun strafblad, bijvoorbeeld het strafbare feit waarvan ze worden verdacht, wanneer en waar ze zijn gearresteerd, en aantallen en soort eerdere veroordelingen. (De enige demografische gegevens die worden gebruikt, zijn leeftijd, niet ras.)
Kleinberg suggereert dat algoritmen kunnen worden ingezet om rechters te helpen zonder grote verstoring van de manier waarop ze momenteel werken, in de vorm van een waarschuwingssysteem dat beslissingen markeert die hoogstwaarschijnlijk verkeerd zijn. Analyse van de prestaties van rechters suggereerde dat ze de neiging hebben om af en toe mensen vrij te laten die zeer waarschijnlijk niet komen opdagen in de rechtszaal, of die misdaad plegen in afwachting van hun proces. Een algoritme zou veel van die gevallen kunnen opvangen, zegt Kleinberg.
Richard Berk , een professor in de criminologie aan de Universiteit van Pennsylvania, beschrijft de studie als zeer goed werk en een voorbeeld van een recente versnelling van de interesse in het toepassen van machine learning om strafrechtelijke beslissingen te verbeteren. Het idee is al 20 jaar onderzocht, maar machine learning is krachtiger geworden en er zijn meer gegevens beschikbaar om het te trainen.
Berk heeft onlangs een systeem getest met de Pennsylvania State Parole Board dat adviseert over het risico dat een persoon zal recidiveren, en vond bewijs dat het de misdaad verminderde. De NBER-studie is belangrijk omdat er wordt gekeken naar hoe machine learning kan worden gebruikt vóór veroordeling, een gebied dat nog niet grondig is onderzocht, zegt hij.
Berk zegt echter dat er meer onderzoek nodig is om ervoor te zorgen dat strafrechtelijke algoritmen niet tot oneerlijke uitkomsten leiden. Afgelopen jaar een onderzoek door ProPublica wees uit dat commerciële software die is ontwikkeld om te helpen bepalen welke veroordeelden een proeftijd moeten krijgen, meer kans had om zwarte mensen ten onrechte als hoog risico te bestempelen dan blanke mensen.
Jens Ludwig , directeur van het Crime Lab van de University of Chicago, die aan de nieuwe NBER-studie heeft gewerkt, zegt dat het aantoont hoe oneerlijke resultaten verre van onvermijdelijk zijn, door aan te tonen dat een rechter-adviserend algoritme de misdaad zou kunnen verminderen, evenals de snelheid waarmee zwarten en Iberiërs zijn gevangen gezet. Deze tools kunnen de eerlijkheid ten opzichte van de status-quo zelfs verbeteren, zegt hij.