211service.com
AI kan niet voorspellen hoe het leven van een kind zal verlopen, zelfs niet met een heleboel gegevens
SHARON MCCUTCHEON / UNSPLASH
Beleidsmakers putten vaak uit het werk van sociale wetenschappers om te voorspellen hoe specifiek beleid van invloed kan zijn op sociale resultaten, zoals de werkgelegenheids- of misdaadcijfers. Het idee is dat als ze kunnen begrijpen hoe verschillende factoren het traject van iemands leven kunnen veranderen, ze interventies kunnen voorstellen om de beste resultaten te behalen.
In de afgelopen jaren hebben ze echter steeds meer vertrouwd op machine learning, dat belooft veel nauwkeurigere voorspellingen te produceren door veel grotere hoeveelheden gegevens te verwerken. Dergelijke modellen worden nu gebruikt om te voorspellen hoe waarschijnlijk het is dat een verdachte wordt gearresteerd voor een tweede misdrijf, of dat een kind loopt gevaar voor mishandeling en verwaarlozing thuis. De veronderstelling is dat een algoritme dat wordt gevoed met voldoende gegevens over een bepaalde situatie, nauwkeurigere voorspellingen zal doen dan een menselijke of een meer basale statistische analyse.
nu een nieuwe studie gepubliceerd in de Proceedings van de National Academy of Sciences doet twijfel rijzen over hoe effectief deze aanpak werkelijk is. Drie sociologen van Princeton University vroegen honderden onderzoekers om zes levensuitkomsten voor kinderen, ouders en huishoudens te voorspellen met behulp van bijna 13.000 datapunten van meer dan 4.000 gezinnen. Geen van de onderzoekers kwam zelfs maar in de buurt van een redelijk niveau van nauwkeurigheid, ongeacht of ze eenvoudige statistieken of geavanceerde machine learning gebruikten.
De studie benadrukt echt dit idee dat machine learning-tools uiteindelijk geen magie zijn, zegt Alice Xiang, hoofd onderzoek naar eerlijkheid en verantwoording bij de non-profit Partnership on AI.
De onderzoekers gebruikten gegevens van een 15 jaar durende sociologische studie genaamd de Onderzoek naar kwetsbare gezinnen en kinderwelzijn , geleid door Sara McLanahan, een professor in sociologie en public affairs aan Princeton en een van de hoofdauteurs van het nieuwe artikel. De oorspronkelijke studie probeerde te begrijpen hoe het leven van kinderen van ongehuwde ouders in de loop van de tijd zou kunnen verlopen. Gezinnen werden willekeurig geselecteerd uit kinderen die in het jaar 2000 in ziekenhuizen in grote Amerikaanse steden waren geboren. Ze werden opgevolgd voor gegevensverzameling toen de kinderen 1, 3, 5, 9 en 15 jaar oud waren.
McLanahan en haar collega's Matthew Salganik en Ian Lundberg ontwierpen vervolgens een uitdaging om voorspellingen te crowdsourcen over zes uitkomsten in de laatste fase die zij sociologisch belangrijk vonden. Deze omvatten het gemiddelde van de kinderen op school; hun niveau van grit, of zelfgerapporteerde doorzettingsvermogen op school; en het algemene armoedeniveau in hun huishouden. Challenge-deelnemers van verschillende universiteiten kregen slechts een deel van de gegevens om hun algoritmen te trainen, terwijl de organisatoren wat achterhielden voor eindevaluaties. In de loop van vijf maanden dienden honderden onderzoekers, waaronder computerwetenschappers, statistici en computationele sociologen, vervolgens hun beste voorspellingstechnieken in.
Het feit dat geen enkele inzending een hoge nauwkeurigheid kon bereiken op een van de resultaten, bevestigde dat de resultaten geen toevalstreffer waren. Je kunt het niet wegredeneren op basis van het falen van een bepaalde onderzoeker of van een bepaalde machine learning of AI-technieken, zegt Salganik, een professor in de sociologie. De meest gecompliceerde machine learning-technieken waren ook niet veel nauwkeuriger dan veel eenvoudigere methoden.
Voor experts die het gebruik van AI in de samenleving bestuderen, zijn de resultaten niet zo verrassend. Zelfs de meest nauwkeurige algoritmen voor risicobeoordeling in het strafrechtsysteem halen bijvoorbeeld maximaal 60% of 70%, zegt Xiang. Misschien klinkt dat in abstracto een beetje goed, voegt ze eraan toe, maar het recidivepercentage kan hoe dan ook lager zijn dan 40%. Dat betekent dat het voorspellen van geen recidive u al een nauwkeurigheidspercentage van meer dan 60% oplevert.
Evenzo heeft onderzoek herhaaldelijk aangetoond dat binnen contexten waarin een algoritme risico's beoordeelt of kiest waar middelen naartoe worden gestuurd, eenvoudige, verklaarbare algoritmen vaak bijna dezelfde voorspellingskracht hebben als black-box-technieken zoals deep learning. Het extra voordeel van de black-box-technieken is dus niet de grote kosten in interpreteerbaarheid waard.
De resultaten betekenen niet noodzakelijk dat voorspellende algoritmen, al dan niet gebaseerd op machine learning, nooit bruikbare tools zullen zijn in de beleidswereld. Sommige onderzoekers wijzen er bijvoorbeeld op dat gegevens die voor sociologisch onderzoek worden verzameld, verschillen van de gegevens die doorgaans worden geanalyseerd bij beleidsvorming.
Rashida Richardson, beleidsdirecteur bij het AI Now-instituut, dat de sociale impact van AI bestudeert, wijst ook op zorgen over de manier waarop het voorspellingsprobleem werd geframed. Of een kind bijvoorbeeld grit heeft, is een inherent subjectief oordeel waarvan uit onderzoek is gebleken dat het een racistische constructie is voor het meten van succes en prestaties, zegt ze. Het detail deed haar meteen denken: Oh, dit gaat echt niet werken.
Salganik erkent ook de beperkingen van het onderzoek.
Maar hij benadrukt dat het laat zien waarom beleidsmakers voorzichtiger moeten zijn met het transparant evalueren van de nauwkeurigheid van algoritmische tools. Het hebben van een grote hoeveelheid gegevens en het hebben van gecompliceerde machine learning garandeert geen nauwkeurige voorspelling, voegt hij eraan toe. Beleidsmakers die niet zoveel ervaring hebben met machine learning, kunnen daar onrealistische verwachtingen van hebben.
Meld u aan voor onze Webby-genomineerde AI-nieuwsbrief The Algorithm om meer van dit soort verhalen rechtstreeks in uw inbox te ontvangen. Het is gratis.