211service.com
Als AI ons gaat helpen in een crisis, hebben we een nieuw soort ethiek nodig
mevrouw Tech | Pixabay
Jess Whittlestone van het Leverhulme Centre for the Future of Intelligence aan de Universiteit van Cambridge en haar collega's publiceerden een: commentaar stuk in Nature Machine Intelligence deze week met het argument dat als kunstmatige intelligentie gaat... hulp in een crisis , hebben we een nieuwe, snellere manier nodig om AI-ethiek te doen, die ze ethiek voor urgentie noemen.
JESS WHITTLESTONEVoor Whittlestone betekent dit anticiperen op problemen voordat ze zich voordoen, betere manieren vinden om veiligheid en betrouwbaarheid in AI-systemen in te bouwen en de nadruk leggen op technische expertise op alle niveaus van de ontwikkeling en het gebruik van de technologie. De kern van deze aanbevelingen is het idee dat ethiek gewoon een onderdeel moet worden van hoe AI wordt gemaakt en gebruikt, in plaats van een toevoeging of bijzaak.
Uiteindelijk zal AI sneller kunnen worden ingezet wanneer dat nodig is als het wordt gemaakt met ingebouwde ethiek, stelt ze. Ik vroeg haar om me te vertellen wat dit betekent.
Dit interview is bewerkt voor lengte en duidelijkheid.
Waarom hebben we een nieuw soort ethiek voor AI nodig?
Met deze pandemie bevinden we ons plotseling in een situatie waarin mensen echt praten over de vraag of AI nuttig kan zijn, of het levens kan redden. Maar de crisis heeft duidelijk gemaakt dat we niet over voldoende robuuste ethische procedures beschikken om AI veilig in te zetten, en zeker niet over procedures die snel kunnen worden geïmplementeerd.
Wat is er mis met de ethiek die we hebben?
Ik heb de afgelopen jaren doorgebracht met het beoordelen van ethische initiatieven op het gebied van AI, kijkend naar hun beperkingen en vragen wat we nog meer nodig hebben. Vergeleken met zoiets als biomedische ethiek, is de ethiek die we hebben voor AI niet erg praktisch. Het richt zich te veel op principes op hoog niveau. We zijn het er allemaal over eens dat AI ten goede moet worden gebruikt. Maar wat betekent dat eigenlijk? En wat gebeurt er als principes op hoog niveau in conflict komen?
AI heeft bijvoorbeeld het potentieel om levens te redden, maar dit kan ten koste gaan van burgerlijke vrijheden zoals privacy. Hoe gaan we om met die afwegingen op een manier die voor veel verschillende mensen acceptabel is? We zijn er niet achter hoe we met de onvermijdelijke meningsverschillen moeten omgaan.
AI-ethiek heeft ook de neiging om te reageren op bestaande problemen in plaats van te anticiperen op nieuwe. De meeste problemen die mensen vandaag bespreken rond algoritmische vooringenomenheid, kwamen alleen aan de orde toen spraakmakende dingen verkeerd gingen, zoals met politie- en voorwaardelijke beslissingen.
Maar ethiek moet proactief zijn en zich voorbereiden op wat er mis kan gaan, niet op wat er al mis is gegaan. Natuurlijk kunnen we de toekomst niet voorspellen. Maar naarmate deze systemen krachtiger worden en in meer high-stakes domeinen worden gebruikt, zullen de risico's groter worden.
Welke kansen hebben we gemist door deze procedures niet te hebben?
Het is gemakkelijk om te overhypen wat mogelijk is, en AI zou waarschijnlijk nooit een grote rol gaan spelen in deze crisis. Machine learning-systemen zijn niet volwassen genoeg.
Maar er zijn een handvol gevallen waarin AI wordt getest voor medische diagnose of voor toewijzing van middelen aan ziekenhuizen. We hadden dit soort systemen misschien breder kunnen gebruiken, waardoor de zorg minder zwaar was geworden, als ze vanaf het begin met ethiek in het achterhoofd waren ontworpen.
Met name bij de toewijzing van middelen bepaalt u welke patiënten de hoogste prioriteit hebben. Je hebt een ingebouwd ethisch kader nodig voordat je AI gebruikt om te helpen bij dat soort beslissingen.
Dus is ethiek voor urgentie gewoon een oproep om de bestaande AI-ethiek te verbeteren?
Dat maakt er deel van uit. Het feit dat we geen robuuste, praktische processen hebben voor AI-ethiek, maakt het moeilijker in een crisisscenario. Maar in tijden als deze heb je ook meer behoefte aan transparantie. Mensen praten veel over het gebrek aan transparantie met machine learning-systemen als zwarte dozen. Maar er is nog een ander soort transparantie over hoe de systemen worden gebruikt.
Dit is vooral belangrijk in een crisis, wanneer regeringen en organisaties dringende beslissingen nemen die compromissen met zich meebrengen. Wiens gezondheid geeft u prioriteit? Hoe red je levens zonder de economie te vernietigen? Als een AI wordt gebruikt in de publieke besluitvorming, is transparantie belangrijker dan ooit.
Wat moet er veranderen?
We moeten anders over ethiek nadenken. Het zou niet iets moeten zijn dat ernaast of achteraf gebeurt - iets dat je vertraagt. Het zou in de eerste plaats gewoon deel moeten uitmaken van hoe we deze systemen bouwen: ethiek door ontwerp.
Ik heb soms het gevoel dat ethiek het verkeerde woord is. Wat we zeggen is dat onderzoekers en ingenieurs op het gebied van machine learning moeten worden opgeleid om na te denken over de implicaties van wat ze bouwen, of ze nu fundamenteel onderzoek doen, zoals het ontwerpen van een nieuw algoritme voor het leren van versterking of iets praktischers, zoals het ontwikkelen van een zorgaanvraag. Als hun werk zijn weg vindt naar producten en diensten in de echte wereld, hoe zou dat er dan uit kunnen zien? Wat voor soort problemen kan het oproepen?
Een deel hiervan is al begonnen. We werken samen met enkele beginnende AI-onderzoekers en praten met hen over hoe ze deze manier van denken in hun werk kunnen toepassen. Het is een beetje een experiment, om te zien wat er gebeurt. Maar zelfs NeurIPS [een toonaangevende AI-conferentie] vraagt onderzoekers nu om aan het einde van hun papers een verklaring op te nemen waarin de mogelijke maatschappelijke effecten van hun werk worden geschetst.
U hebt gezegd dat we mensen nodig hebben met technische expertise op alle niveaus van AI-ontwerp en -gebruik. Waarom is dat?
Ik zeg niet dat technische expertise het allerbelangrijkste is van ethiek, maar het is een perspectief dat moet worden vertegenwoordigd. En ik wil niet klinken alsof ik zeg dat alle verantwoordelijkheid bij onderzoekers ligt, omdat veel van de belangrijke beslissingen over hoe AI wordt gebruikt, verderop in de keten worden genomen, door de industrie of door overheden.
Maar ik maak me zorgen dat de mensen die deze beslissingen nemen niet altijd volledig begrijpen hoe het mis kan gaan. Je moet dus mensen met technische expertise erbij betrekken. Onze intuïtie over wat AI wel en niet kan doen, is niet erg betrouwbaar.
Wat je op alle niveaus van AI-ontwikkeling nodig hebt, zijn mensen die de details van machine learning echt begrijpen om te werken met mensen die ethiek echt begrijpen. Interdisciplinair samenwerken is echter moeilijk. Mensen met verschillende expertises praten vaak op verschillende manieren over dingen. Wat een machine learning-onderzoeker onder privacy verstaat, kan heel anders zijn dan wat een advocaat onder privacy verstaat, en je kunt mensen tegenkomen die langs elkaar heen praten. Daarom is het belangrijk dat deze verschillende groepen wennen aan het samenwerken.
Je dringt aan op een behoorlijk grote institutionele en culturele revisie. Waarom denk je dat mensen dit willen doen in plaats van ethische commissies of toezichtcomités op te richten - waar ik altijd een beetje van moet zuchten omdat ze de neiging hebben tandeloos te zijn?
Ja, ik zucht ook. Maar ik denk dat deze crisis mensen dwingt om het belang van praktische oplossingen in te zien. Misschien zullen mensen zeggen, in plaats van te zeggen: Oh, laten we deze raad van toezicht en die raad van toezicht hebben, we moeten dit voor elkaar krijgen, en we moeten het goed doen.