Is het sociale kredietsysteem van China zo Orwelliaans als het klinkt?

Categorie: Kunstmatige intelligentie Geplaatst 26 februari

In de westerse verbeelding is China's beruchte sociale kredietsysteem een ​​door AI aangedreven surveillanceregime dat de mensenrechten schendt. We horen vaak voorbeelden van het gebruik ervan voor het doen gelden van politieke controle, zoals vorige maand, toen een man 950 van de 1.000 punten werd kwijtgescholden - waarbij hij 10 punten kreeg elke keer dat hij de regering om hulp vroeg bij het medische geschil van zijn moeder. Maar zelden horen we over het andere verhaal, waarin het een bestuursmechanisme is dat wordt verwelkomd door veel burgers die genoeg hebben van ongebreidelde fraude, namaakproducten en tekortkomingen in de volksgezondheid.

Dit is de niet-zo-eenvoudige realiteit die wordt weergegeven door een verhaal uit de Zuid-Chinese ochtendpost . (Hoewel, om eerlijk te zijn, er zijn vragen over just hoe onafhankelijk de SCMP is .) In het dorp Jiakuang Majia in de stad Rongcheng, een van de twaalf plaatsen die worden geprezen om zijn succes bij het testen van het programma, zeggen bewoners dat het plan grotendeels een positieve invloed heeft gehad, of helemaal geen invloed. Er is eigenlijk geen AI of andere technologie bij betrokken. In plaats daarvan worden punten bijgehouden met papier en handenarbeid - en velen beschouwen het systeem als een perifere bureaucratie, verre van een drijvende kracht in hun dagelijks leven.

Het sociale kredietsysteem van China is ontworpen om rechtmatigheid en integriteit te stimuleren. Burgers kunnen punten verdienen voor goede daden zoals vrijwilligerswerk, bloed doneren of investeringen in de stad aantrekken; ze kunnen ze kwijtraken voor strafbare feiten zoals het overtreden van verkeersregels, belastingontduiking of het verwaarlozen van de zorg voor hun bejaarde ouders. Hun scores zijn vervolgens van invloed op hun toegang tot welzijnsprogramma's van de gemeenschap: mensen met een hoge score ontvangen voordelen zoals gratis medische controles en kortingen op verwarmingsrekeningen; laagscoorders verliezen overheidssubsidies of worden uitgesloten van overheidsbanen.

Maar hoewel dit laatste detail in het Westen vaak wordt gekarakteriseerd als een vrijheidsberovende machtsgreep door een autoritaire regering, beweren veel wetenschappers dat sociale kredietscores niet het grootschalige controlerende effect zullen hebben dat wordt verondersteld. De gegevens die de regeling verzamelt, komen niet echt overeen met de gegevens die bijvoorbeeld een bank nodig heeft om te bepalen of ze u een lening mogen verstrekken. Regelgeving is ook beoordeeld in gevallen van intense pushback: Suining County heeft zijn puntaftrek voor ongeautoriseerde petities verwijderd, bijvoorbeeld vanwege wijdverbreide impopulariteit. Daarom, zeggen deze geleerden, fungeert het systeem meer als een propagandamiddel dan als een handhavingsinstrument. anderen aanwijzen dat het gewoon een verlengstuk is van de lange traditie van de Chinese cultuur om goed moreel gedrag te bevorderen en dat Chinese burgers een heel ander perspectief hebben op privacy en vrijheid.

Dit verhaal verscheen oorspronkelijk in onze AI-nieuwsbrief The Algorithm. Om het direct in je inbox te krijgen, kun je je hier gratis aanmelden.