211service.com
Predictive policing is nog steeds racistisch, welke data het ook gebruikt
David McNew/Getty Images
Het is geen geheim dat voorspellende politietools dat zijn racistisch bevooroordeeld . Uit een aantal onderzoeken is gebleken dat er racistische feedbackloops kunnen ontstaan als algoritmen getraind op politiegegevens , zoals arrestaties. Maar nieuw onderzoek toont aan dat het trainen van voorspellende tools op een manier die bedoeld is om vooroordelen te verminderen, weinig effect heeft.
Arrestatiegegevens beïnvloeden voorspellende tools omdat het bekend is dat de politie meer mensen arresteert in zwarte en andere minderheidsbuurten, wat ertoe leidt dat algoritmen meer politie naar die gebieden leiden, wat leidt tot meer arrestaties. Het resultaat is dat voorspellende tools politiepatrouilles verkeerd toewijzen: sommige buurten zijn onterecht aangewezen als misdaadhotspots, terwijl andere wijken onderpolitie hebben.
Verwant verhaal
Predictive policing-algoritmen zijn racistisch. Ze moeten worden gedemonteerd. Gebrek aan transparantie en bevooroordeelde trainingsgegevens betekenen dat deze tools niet geschikt zijn voor het beoogde doel. Als we ze niet kunnen repareren, moeten we ze dumpen.Ter verdediging zeggen veel ontwikkelaars van voorspellende politietools dat ze slachtofferrapporten zijn gaan gebruiken om een nauwkeuriger beeld te krijgen van de misdaadcijfers in verschillende buurten. In theorie zouden slachtofferrapporten minder bevooroordeeld moeten zijn omdat ze niet worden beïnvloed door vooroordelen van de politie of feedbacklussen.
Maar Nil-Jana Akpinar en Alexandra Chouldechova van de Carnegie Mellon University en Maria De-Arteaga van de University of Texas in Austin laten zien dat de weergave van slachtofferrapporten is ook scheef . Het team bouwde hun eigen voorspellende algoritme met hetzelfde model als in verschillende populaire tools, waaronder PredPol, het meest gebruikte systeem in de VS. Ze trainden het model op gegevens over slachtofferrapportage voor Bogotá, Colombia, een van de weinige steden waarvoor onafhankelijke gegevens over misdaadrapportage beschikbaar zijn op districtsniveau.
Toen ze de voorspellingen van hun tool vergeleken met de werkelijke misdaadgegevens voor elk district, ontdekten ze dat het aanzienlijke fouten maakte. In een wijk waar weinig misdaden werden gemeld, voorspelde de tool bijvoorbeeld ongeveer 20% van de werkelijke hotspots: locaties met een hoog misdaadcijfer. Daarentegen voorspelde de tool in een wijk met veel meldingen 20% meer hotspots dan er in werkelijkheid waren.
Voor Rashida Richardson, een advocaat en onderzoeker die algoritmische vooringenomenheid bestudeert aan de Rutgers Law School in New Jersey, versterken deze resultaten bestaand werk dat problemen aan het licht brengt met datasets die worden gebruikt bij predictive policing. Ze leiden tot vooringenomen uitkomsten die de openbare veiligheid niet verbeteren, zegt ze. Ik denk dat veel leveranciers van voorspellende politiediensten zoals PredPol fundamenteel niet begrijpen hoe structurele en sociale omstandigheden vele vormen van misdaadgegevens vertekenen of scheeftrekken.
Dus waarom heeft het algoritme het zo mis? Het probleem met aangiften van slachtoffers is dat zwarte mensen vaker worden aangegeven voor een misdrijf dan blanken. Rijkere blanke mensen rapporteren eerder een armere zwarte dan andersom. En zwarte mensen melden ook vaker andere zwarte mensen. Net als bij arrestatiegegevens, leidt dit ertoe dat zwarte buurten vaker worden gemarkeerd als misdaadhotspots dan zou moeten.
Ook andere factoren vertekenen het beeld. Slachtofferrapportage houdt ook verband met het vertrouwen van de gemeenschap of het wantrouwen van de politie, zegt Richardson. Dus als u zich in een gemeenschap bevindt met een historisch corrupte of notoir raciaal vooringenomen politie-afdeling, zal dat van invloed zijn op hoe en of mensen misdaad melden. In dit geval kan een voorspellend instrument het misdaadniveau in een gebied onderschatten, waardoor het niet de politie krijgt die het nodig heeft.
Geen snelle oplossing
Erger nog, er is nog steeds geen duidelijke technische oplossing. Akpinar en Chouldechova probeerden hun Bogotá-model aan te passen om rekening te houden met de vooroordelen die ze waarnamen, maar hadden niet genoeg gegevens om veel verschil te maken - ondanks dat er meer gegevens op districtsniveau voor Bogotá zijn dan voor welke Amerikaanse stad dan ook. Uiteindelijk is het onduidelijk of het verminderen van de vooringenomenheid in dit geval gemakkelijker is dan eerdere pogingen om op arrestatie gebaseerde systemen te ontkrachten, zegt Akpinar.
Wat gedaan kan worden? Richardson denkt dat publieke druk om racistische instrumenten en het beleid erachter te ontmantelen het enige antwoord is. Het is gewoon een kwestie van politieke wil, zegt ze. Ze merkt op dat early adopters van predictive policing tools, zoals Santa Cruz, hebben aangekondigd ze niet langer te zullen gebruiken en dat er vernietigende officiële rapporten zijn over het gebruik van predictive policing door de LAPD en Chicago PD. Maar de reacties in elke stad waren anders, zegt ze.
Chicago schortte het gebruik van predictive policing op, maar investeerde opnieuw in een database voor politiebendes, die volgens Richardson veel van dezelfde problemen heeft.
Het is zorgwekkend dat zelfs wanneer overheidsonderzoeken en -rapporten significante problemen met deze technologieën aan het licht brengen, het niet genoeg is voor politici en politiefunctionarissen om te zeggen dat het niet mag worden gebruikt, zegt ze.