De activist die racistische politie-algoritmen ontmantelt

Damon Casarez

Hamid Khan is al meer dan 35 jaar gemeenschapsorganisator in Los Angeles, met een consequente focus op politiegeweld en mensenrechten. Hij sprak op 3 april 2020 met ons voor een komende podcastaflevering over kunstmatige intelligentie en politie. Terwijl de wereld zijn aandacht richt op politiegeweld en institutioneel racisme, dachten we dat ons gesprek met hem over hoe hij gelooft dat technologie racisme bij de politie mogelijk maakt, nu moet worden gepubliceerd.

Khan is de oprichter van de Stop LAPD Spying Coalition, die er veel heeft gewonnen historische rechtszaken namens de minderheidsgemeenschappen waarvoor het strijdt. Zijn werk is misschien het best bekend voor zijn pleitbezorging tegen predictive policing. Op 21 april, een paar weken na dit interview, heeft de LAPD kondigde een einde aan alle voorspellende politieprogramma's aan .

Khan is een controversieel figuur die partnerschappen met groepen zoals de Electronic Frontier Foundation (EFF) heeft afgewezen vanwege de nadruk op hervorming. Hij gelooft niet dat hervormingen zullen werken. Het interview is bewerkt voor lengte en duidelijkheid.

Vertel ons over je werk. Waarom geef je om politietoezicht?

Het werk dat we doen, met name kijkend naar de politie van Los Angeles, kijkt naar hoe surveillance, het verzamelen, opslaan en delen van informatie in het verleden is gebruikt om echt schade aan te richten, om bepaalde gemeenschappen op te sporen, te volgen, te volgen en te stalken: gemeenschappen die armen, die zwart en bruin zijn, gemeenschappen die als verdacht zouden worden beschouwd, en homoseksuele translichamen. Op verschillende niveaus is toezicht dus een proces van sociale controle.

Gelooft u dat er een rol is weggelegd voor technologie bij de politie?

De Stop LAPD Spying Coalition heeft een aantal leidende waarden. De eerste is dat waar we naar kijken geen moment in de tijd is, maar een voortzetting van de geschiedenis. Surveillance wordt al honderden jaren toegepast. Enkele van de vroegste bewakingsprocessen gaan terug tot de lantaarnwetten in New York City in het begin van de 18e eeuw. Als je een slaaf was, een zwarte of een inheemse persoon, en als je de openbare ruimte in liep zonder je meester, moest je lopen met een echte letterlijke lantaarn, met de kaarslont en alles, om jezelf in wezen te identificeren jezelf als verdachte, als de ander.

Een andere leidende waarde is dat er altijd een ander is. Historisch gezien is er altijd een bedreiging voor het systeem. Er is altijd een lichaam, een persoon of groepen mensen die als gevaarlijk worden beschouwd. Ze worden als verdacht beschouwd.

De derde waarde is dat we altijd proberen de retoriek van de nationale veiligheid te desensationaliseren. Om het heel eenvoudig en duidelijk te houden, [proberen we te laten zien] hoe de omgeving voor het verzamelen en delen van informatie beweegt en hoe het een proces is om iedereen in de gaten te houden.

Algoritmen horen niet thuis in de politie.

En een van onze laatste leidende waarden is dat onze strijd geworteld is in mensenrechten. We zijn fel een afschaffing van de doodstraf, dus ons doel is om het systeem te ontmantelen. We doen niet aan reformistisch werk. We beschouwen ook elke beleidsontwikkeling rond transparantie, aansprakelijkheid en toezicht als een sjabloon voor mission creep. Elke keer dat toezicht gelegitimeerd wordt, kan het in de loop van de tijd worden uitgebreid. Op dit moment vechten we om de drones aan de grond te houden in Los Angeles, en we hebben ze een paar jaar aan de grond kunnen houden. En eind maart kondigde de politie van Chula Vista in San Diego aan dat ze... rust hun drones uit met luidsprekers om de bewegingen van niet-gehuisveste mensen te volgen.

Kunt u het werk uitleggen dat de Stop LAPD Spying Coalition heeft gedaan op het gebied van predictive policing? Wat zijn de problemen ermee vanuit jouw perspectief?

PredPol was locatiegebaseerd voorspellend politiewerk waarbij een locatie van 500 bij 500 vierkante meter werd geïdentificeerd als een hotspot. Het andere begeleidende programma, Operation Laser, was persoonsgericht voorspellend politiewerk.

In 2010 hebben we gekeken naar de verschillende manieren waarop deze [LAPD-surveillance]-programma's werden opgezet. Predictive policing was een belangrijk programma. We hebben in 2016 formeel een campagne gelanceerd om inzicht te krijgen in de impact van predictive policing in Los Angeles met als doel het programma te ontmantelen, deze informatie naar de gemeenschap te brengen en terug te vechten.

Predictive policing op basis van personen beweerde dat voor personen die personen van belang of veelplegers worden genoemd, die mogelijk een geschiedenis hebben gehad in het verleden, we een risicobeoordelingsinstrument zouden kunnen gebruiken om vast te stellen dat ze zouden recidive. Het was dus een getallenspel. Als ze in het verleden wapenbezit hadden, kregen ze vijf punten. Als ze voorwaardelijk vrij waren of een proeftijd hadden, kregen ze vijf punten. Als ze banden hadden met een bende, kregen ze vijf punten. Als ze interactie met de politie hadden gehad als een stop-and-frisk, zouden ze één punt krijgen. En dit werd waar individuen die voorwaardelijk vrij waren of voorwaardelijk vrij waren of zich met hun eigen zaken bemoeiden en hun leven weer oppakten, vervolgens werden geplaatst in wat bekend werd als een programma voor chronische delinquenten, buiten medeweten van veel mensen.

Dus de locatie wordt gecriminaliseerd, mensen worden gecriminaliseerd en het is maar een paar seconden voordat het pistool tevoorschijn komt en iemand wordt neergeschoten en vermoord.

Vervolgens, op basis van deze risicobeoordeling, waarbij: Palantir verwerkt alle gegevens , heeft de LAPD een lijst gemaakt. Ze begonnen bulletins uit te geven, die waren als een Most Wanted-poster met de foto's, adressen en geschiedenis van deze personen, en stopten ze in patrouillewagens. [Ze] begonnen kentekenlezers, de pijlstaartrog, de IMSI-Catcher, CCTV en verschillende andere technologie in te zetten om hun bewegingen te volgen, en creëerden vervolgens omstandigheden op de grond om te stoppen, lastig te vallen en te intimideren. We hebben veel basismacht opgebouwd en in april 2019 werd Operatie Laser formeel ontmanteld. Het werd stopgezet.

En op dit moment gaan we achter PredPol aan en eisen dat ook PredPol wordt ontmanteld. [LAPD kondigde een einde aan PredPol op 21 april 2020.] Ons doel voor de afschaffing en ontmanteling van dit programma is niet alleen geworteld in garbage in, garbage out; racistische data in en racistische data uit. Ons werk is echt geworteld in het feit dat het uiteindelijk het hele ideologische kader van patriarchaat en kapitalisme en blanke suprematie en kolonistenkolonialisme dient.

We hebben een rapport uitgebracht, Voordat de kogel het lichaam raakt, in mei 2018 over predictive policing in Los Angeles, wat ertoe leidde dat de stad Los Angeles openbare hoorzittingen hield over datagedreven politiewerk, de eerste in hun soort in het land. We eisten een forensisch onderzoek van PredPol door de inspecteur-generaal. In maart 2019 heeft de inspecteur-generaal de audit vrijgegeven en hij zei dat we PredPol niet eens kunnen auditen omdat het gewoon niet mogelijk is. Het is zo, zo ingewikkeld.

Algoritmen horen niet thuis in de politie. Ik denk dat het cruciaal is dat we begrijpen dat er levens op het spel staan. Deze taal van locatiegebaseerd politiewerk is op zichzelf een proxy voor racisme. Ze zijn er niet om kuilen en bomen te controleren. Ze zijn er om de mensen op de locatie te politie. Dus de locatie wordt gecriminaliseerd, mensen worden gecriminaliseerd en het is maar een paar seconden voordat het pistool tevoorschijn komt en iemand wordt neergeschoten en vermoord.

Teamleiders van Stop LAPD Spying Coalition Hamid Khan (rechts), Jamie Garcia (midden) en Gen Dogon (links) in de wijk Skid Row in LA, waar de coalitie haar hoofdkantoor heeft.

DAMON CASAREZ

Hoe zorg je ervoor dat het publiek dit soort politietactieken begrijpt?

Openbare registers zijn een heel goed hulpmiddel om informatie te verkrijgen. Wat is de oorsprong van dit programma? We willen weten: wat was het visioen? Hoe werd er gearticuleerd? Wat is het doel van de financiering? Wat is de woordenschat die ze gebruiken? Wat zijn de resultaten die ze presenteren aan de financier?

Ik ben een mens, en ik ben hier niet dat je me gewoon uitpakt en gewoon op me begint te experimenteren en me dan inpakt.

Zij [de LAPD] zouden een gebied, een flatgebouw, beschouwen als hotspots en zones. En mensen werden [daar] in een veel sneller tempo tegengehouden. Elke keer dat je iemand stopt, gaat die informatie in een database. Het werd een belangrijk programma voor het verzamelen van gegevens.

We eisten dat ze de geheime lijst vrijgeven die ze van deze personen hadden. LAPD vocht terug en we wonnen die rechtszaak. Dus nu hebben we een geheime lijst van 679 personen, die we nu willen bereiken. En dit zijn allemaal jonge individuen, voornamelijk ongeveer 90% tot 95% zwart en bruin.

Door het gebied opnieuw te begrenzen, schept het terrein voorwaarden voor meer ontwikkeling, meer gentrificatie, meer ontruiming, meer ontheemding. Dus de politie werd beschermers van privé-eigendom en beschermers van privileges.

Wat zeg je tegen mensen die geloven dat technologie sommige van deze problemen bij de politie kan helpen verminderen, zoals vooroordelen, omdat technologie objectief kan zijn?

Ten eerste staat technologie niet op zichzelf. Van het ontwerp tot de productie en de implementatie tot het resultaat, er is voortdurend een vooroordeel ingebouwd. Het zijn niet alleen de vooroordelen van de mensen zelf; zijn de inherente vooringenomenheid binnen het systeem .

Er zijn zoveel punten van invloed dat we eerlijk gezegd niet vechten voor het opschonen van de gegevens. Onze strijd is niet voor een onbevooroordeeld algoritme, omdat we niet geloven dat er zelfs wiskundig gezien helemaal geen onbevooroordeeld algoritme voor politiewerk zou kunnen zijn.

Wat zijn de mensenrechtenoverwegingen als het gaat om politietechnologie en -bewaking?

Het eerste mensenrecht zou zijn dat er niet meer op geëxperimenteerd wordt. Ik ben een mens, en ik ben hier niet dat je me gewoon uitpakt en gewoon op me begint te experimenteren en me dan inpakt. Er is zoveel dataficatie van ons leven gebeurd. Van plantagekapitalisme tot geracialiseerd kapitalisme tot nu ook surveillancekapitalisme, we zijn onderhevig aan gekocht en verkocht. Onze geest en onze gedachten zijn vercommercialiseerd. Het heeft ook een verdovend effect op onze creativiteit als mens, als onderdeel van een natuurlijk universum. Toestemming wordt uit ons vervaardigd.

Met zoiets als het coronavirus zien we zeker dat sommige mensen bereid zijn een deel van hun gegevens en een deel van hun privacy op te geven. Wat vindt u van de keuze of afweging tussen nut en privacy?

We moeten het echt door een veel bredere lens bekijken. Terugkomend op een van onze leidende waarden: geen moment in de tijd maar een voortzetting van de geschiedenis. We moeten dus kijken naar crises in het verleden, zowel echt als verzonnen.

Laten we eens kijken naar de Olympische Spelen van 1984 in Los Angeles. Dat leidde tot de meest massale uitbreiding van de politiebevoegdheden en militarisering van de politie van Los Angeles en de sheriff onder het mom van openbare veiligheid. Het punt was: Nou, we willen alles veilig houden. Maar het werd niet alleen een vast onderdeel en het nieuwe normaal, er werden ook tactieken ontwikkeld. Omdat straten moesten worden schoongemaakt, werden verdachte lichamen, niet-gehuisveste mensen, met geweld verwijderd. Gang sweeps zouden zogenaamd zijn begonnen. Dus jonge zwarte en bruine jongeren werden massaal opgepakt. Dit is zoals 1983, leidend tot 1984.

Tegen 1986-1987 in Los Angeles werden bendeverboden een vast onderdeel. Dit resulteerde in enorme bendedatabases en kinderen van slechts negen maanden oud gingen naar deze bendedatabases. Dat werd Operatie Hammer, waar ze tanks en gepantserde voertuigen hadden gekregen, gebruikt door SWAT, voor het leveren van drugsdelicten op laag niveau en het neerhalen en afbreken van huizen van mensen.

Nu zijn we weer op een gegeven moment. Het is niet alleen de structurele uitbreiding van de politiebevoegdheden; we moeten kijken naar de politie die nu steeds meer de rol van maatschappelijk werker op zich neemt. Het is de afgelopen 10 jaar aan het bouwen. Daar zijn ook veel dollars voor gezondheidszorg en menselijke diensten aan verbonden. Bijvoorbeeld in Los Angeles, de stadscontroller kwam naar buiten met een audit ongeveer vijf jaar geleden, en ze keken naar $ 100 miljoen voor daklozendiensten die de stad biedt. Nou, raad eens? Daarvan ging $87 miljoen naar LAPD.

Kunt u een specifiek voorbeeld geven van de invloed van het gebruik van technologie door de politie op de leden van de gemeenschap?

Door inlichtingen geleid politiewerk is een concept dat uit Engeland komt, uit de Kent Constabulary, en ongeveer 30 jaar geleden begon in de VS. Het centrale thema van inlichtingengestuurd politiewerk is gedragstoezicht. Het gedrag van mensen moet worden gecontroleerd en vervolgens worden verwerkt, en die informatie moet worden gedeeld. Mensen moeten worden getraceerd en gevolgd.

Er bestaat niet zoiets als vriendelijker, zachter racisme, en deze programma's moeten worden ontmanteld.

Een programma genaamd Suspicious Activity Reporting kwam uit 9/11, waarin verschillende activiteiten die volledig grondwettelijk beschermd zijn, als potentieel verdacht worden vermeld. Bijvoorbeeld foto's maken in het openbaar, videocamera's gebruiken in het openbaar, infrastructuur binnenlopen en vragen naar openingstijden. Het is waargenomen gedrag dat redelijk indicatief is voor pre-operationele planning van criminele en/of terroristische activiteiten. Je observeert dus iemands gedrag, wat redelijkerwijs aangeeft dat er geen waarschijnlijke oorzaak is. Het creëert geen feit, maar een zorg. Dat speculatieve en op voorgevoelens gebaseerde politiewerk echt is.

We hebben cijfers kunnen halen uit het programma See Something, Say Something van LAPD. En wat we ontdekten was dat er een 3:1 ongelijksoortige impact was op de zwarte gemeenschap. Ongeveer 70% van deze See Something, Say Something-rapporten kwamen uit overwegend blanke gemeenschappen in Los Angeles. Dus nu wordt een programma bewapend en wordt het een licentie om raciaal te profileren.

Het doel is altijd om macht op te bouwen voor de afschaffing van deze programma's, omdat je ze niet kunt hervormen. Er bestaat niet zoiets als vriendelijker, zachter racisme, en deze programma's moeten worden ontmanteld.

Dus je denkt echt dat hervormingen het gebruik van deze technologieën bij de politie niet toelaten?

Ik kan alleen spreken over mijn eigen geschiedenis van 35 jaar organiseren in LA. Het is niet een kwestie van beter worden, het is een kwestie van slechter worden. En ik denk dat technologie dat bevordert. Als je naar de geschiedenis van de hervorming kijkt, blijven we ons hoofd tegen de muur stoten, en het blijft maar terugkomen op hetzelfde oude ding. We kunnen niet echt werken in de veronderstelling dat harten en geesten kunnen veranderen, vooral niet wanneer iemand een vergunning heeft om te doden.

Ik ben geen techneut. Onze waarschuwing is voor de technologen: je weet wel, blijf in je rijstrook. Volg de gemeenschap en volg hun begeleiding.

zich verstoppen