AI-onderzoekers zeggen dat wetenschappelijke uitgevers helpen om racistische algoritmen in stand te houden

Categorie: Kunstmatige intelligentie Geplaatst 23 juni

Het nieuws: Een open brief van een groeiende coalitie van AI-onderzoekers roept wetenschappelijke uitgever Springer Nature op voor een conferentiepaper die het naar verluidt van plan was op te nemen in zijn aanstaande boek Transacties over computationele wetenschap en computationele intelligentie . Het artikel, getiteld Een diep neuraal netwerkmodel om criminaliteit te voorspellen met behulp van beeldverwerking, presenteert een gezichtsherkenningssysteem dat zogenaamd in staat zou zijn te voorspellen of iemand een crimineel is, volgens de origineel persbericht . Het is ontwikkeld door onderzoekers van Harrisburg University en zou op een komende conferentie worden gepresenteerd.

De eisen: Onder verwijzing naar het werk van toonaangevende Black AI geleerden , ontkracht de brief de wetenschappelijke basis van het artikel en stelt dat misdaadvoorspellingstechnologieën racistisch zijn. Het bevat ook drie eisen: 1) voor Springer Nature om haar aanbod om het onderzoek te publiceren in te trekken; 2) dat het een verklaring afgeeft waarin het het gebruik van statistische technieken zoals machine learning om criminaliteit te voorspellen veroordeelt en de rol ervan erkent bij het stimuleren van dergelijk onderzoek; en 3) voor alle wetenschappelijke uitgevers om zich ertoe te verbinden om in de toekomst geen soortgelijke artikelen meer te publiceren. De brief, die maandag naar Springer Nature is gestuurd, is oorspronkelijk geschreven door vijf onderzoekers van MIT, Rensselaer Polytechnic Institute, McGill University en het AI Now Institute. Binnen een paar dagen verzamelde het meer dan 600 handtekeningen en telde het aantal binnen de AI-ethiek en academische gemeenschappen, waaronder van leidende figuren als Meredith Whittaker, medeoprichter van het AI Now Institute, en Ethan Zuckerman, voormalig directeur van het Center for Civic Media op het MIT Medialab.

Waarom het uitmaakt: Hoewel de brief een specifiek artikel belicht, is het doel van de auteurs om een ​​systematisch probleem aan te tonen met de manier waarop wetenschappelijke publicaties onderzoekers ertoe aanzetten om onethische normen in stand te houden. Dit is de reden waarom we de racewetenschap keer op keer zien opduiken, zei Chelsea Barabas, een promovendus aan het MIT en een van de co-auteurs van de brief. Het is omdat uitgevers het publiceren. De echte betekenis van dit Springer-stuk is dat het helemaal niet uniek is, herhaalde Theodora Dryer, een postdoctoraal onderzoeker bij AI Now en een andere co-auteur. Het staat symbool voor een probleem en een kritiek die al zo lang aan de gang is.

Reactie van Springer: In reactie op de brief zei Springer dat het de krant niet zou publiceren. Het document waarnaar u verwijst, is voorgelegd aan een aanstaande conferentie waarvoor Springer van plan was de procedure te publiceren, aldus het. Na een grondige peer review proces werd het papier afgewezen. Harrisburg University ook heeft zijn persbericht verwijderd , waarin staat dat de faculteit het document bijwerkt om de geuite zorgen weg te nemen. Harrisburg University en een co-auteur van het artikel hebben een verzoek om commentaar en een verzoek om een ​​kopie van het originele artikel afgewezen. De ondertekenaars van de brief zeiden dat ze zullen blijven aandringen op vervulling van hun tweede en derde eis.

Het grotere plaatje: Sinds de dood van George Floyd de aanleiding vormde voor een internationale beweging voor raciale rechtvaardigheid, hebben het AI-veld en de technische industrie in het algemeen te maken gehad met een afrekening over de rol die ze hebben gespeeld bij het versterken van structureel racisme. In de week van 8 juni kondigden IBM, Microsoft en Amazon bijvoorbeeld allemaal het einde of gedeeltelijke schorsing van hun gezichtsherkenningsproducten aan. De verhuizing was een hoogtepunt van twee jaar belangenbehartiging van onderzoekers en activisten om een ​​verband aan te tonen tussen deze technologieën en de overpolitie van minderheidsgemeenschappen. De open brief is de nieuwste ontwikkeling in deze beweging naar meer ethische verantwoordelijkheid in AI.

We wilden echt bijdragen aan deze groeiende beweging, zei Sonja Solomun, de onderzoeksdirecteur van het Centrum voor Media, Technologie en Democratie aan de McGill University. Vooral als we door onze ramen kijken en zien wat er op dit moment in de VS en wereldwijd gebeurt, staat de inzet zo hoog.

Bijwerken: Na publicatie gaf Springer Nature een verklaring af waarin werd verduidelijkt dat 'op geen enkel moment [de paper] werd geaccepteerd voor publicatie... De beslissing van de redacteur van de serie om de definitieve paper af te wijzen werd genomen op dinsdag 16 juni en werd officieel meegedeeld aan de auteurs op maandag 22nd. Juni.'