We zijn niet klaar voor AI, zegt de winnaar van een nieuwe AI-prijs van $ 1 miljoen

Rachel Wu / MIT CSAIL

Regina Barzilay , een professor aan het Computer Science and Artificial Intelligence Laboratory (CSAIL) van het MIT, is de eerste winnaar van de Squirrel AI Award for Artificial Intelligence for the Benefit of Humanity, een nieuwe prijs die uitmuntend onderzoek op het gebied van AI erkent. Barzilay begon haar carrière met het verwerken van natuurlijke taal. Nadat ze in 2014 borstkanker had overleefd, verlegde ze haar focus naar: machine learning-algoritmen voor het opsporen van kanker en het ontwerpen van nieuwe medicijnen . De prijs wordt in februari 2021 uitgereikt door de Association for the Advancement of Artificial Intelligence (AAAI).

Het prijzengeld van $ 1 miljoen, beschikbaar gesteld door Chinees online onderwijsbedrijf Squirrel AI , waarover we eerder schreven, plaatst de prijs op hetzelfde financiële niveau als de Nobelprijs en de Turing Award in de informatica. Ik sprak met Barzilay aan de telefoon over de prijs - en de belofte en frustraties van AI.

Ons gesprek is bewerkt voor lengte en duidelijkheid.

Gefeliciteerd met deze onderscheiding. Wat betekent het voor jou en voor AI in het algemeen?

Dank u. Weet je, er zijn veel gebieden waar AI nog steeds geen verschil maakt, maar dat wel zou kunnen zijn. We gebruiken de hele tijd machinevertaling of aanbevelingssystemen, maar niemand beschouwt deze als luxe technologie, niemand vraagt ​​ernaar. Maar met andere gebieden van ons leven die cruciaal zijn voor ons welzijn, zoals de gezondheidszorg, heeft AI nog niet de acceptatie van de samenleving. Ik hoop dat deze prijs, en de aandacht die daarmee gepaard gaat, mensen van gedachten doet veranderen en hen de kansen laat zien, en de AI-gemeenschap ertoe aanzet de volgende stappen te zetten.

Wat voor soort stappen?

Toen de technologie overging van stoomkracht naar elektriciteit, waren de eerste pogingen om elektriciteit naar de industrie te brengen niet erg succesvol omdat mensen gewoon probeerden stoommachines te repliceren. Ik denk dat er nu iets soortgelijks aan de hand is met AI. We moeten uitzoeken hoe we het in veel verschillende gebieden kunnen integreren: niet alleen de gezondheidszorg, maar ook onderwijs, materiaalontwerp, stadsplanning, enzovoort. Natuurlijk is er meer te doen aan de technologische kant, inclusief het maken van betere algoritmen, maar we brengen deze technologie in sterk gereguleerde omgevingen en we hebben niet echt gekeken hoe we dat moeten doen.

Op dit moment floreert AI op plaatsen waar de faalkosten erg laag zijn. Als Google je een verkeerde vertaling vindt of je een verkeerde link geeft, is dat prima; je kunt gewoon naar de volgende gaan. Maar dat gaat niet werken voor een arts. Als u patiënten de verkeerde behandeling geeft of een diagnose mist, zijn er echt ernstige gevolgen. Veel algoritmen kunnen dingen eigenlijk beter dan mensen. Maar we vertrouwen altijd meer op onze eigen intuïtie, onze eigen geest dan op iets dat we niet begrijpen. We moeten artsen redenen geven om AI te vertrouwen. De FDA bekijkt dit probleem, maar ik denk dat het nog lang niet is opgelost in de VS of waar dan ook ter wereld.

In 2014 is bij u borstkanker geconstateerd. Heeft dat uw mening over uw werk veranderd?

O ja, absoluut. Een van de dingen die gebeurden toen ik door de behandeling ging en buitensporig veel tijd in het ziekenhuis doorbracht, is dat de dingen waar ik aan had gewerkt nu triviaal aanvoelden. Ik dacht: mensen lijden. We kunnen iets doen.

Toen ik met de behandeling begon, vroeg ik wat er gebeurt met patiënten zoals ik, met mijn type tumor en mijn leeftijd en deze behandeling. Ze zouden zeggen: Oh, er was een klinische proef, maar je past er niet echt precies in. En ik dacht, borstkanker is een veel voorkomende ziekte. Er zijn zoveel patiënten, met zoveel verzamelde gegevens. Hoe komt het dat we het niet gebruiken? Maar u kunt deze informatie niet gemakkelijk uit het systeem krijgen in Amerikaanse ziekenhuizen. Het is er, maar het is in tekst. En dus begon ik NLP te gebruiken om er toegang toe te krijgen. Ik kon me geen ander veld voorstellen waar mensen vrijwillig de beschikbare gegevens weggooien. Maar dat was wat er in de geneeskunde aan de hand was.

Hebben ziekenhuizen de kans gegrepen om meer gebruik te maken van deze data?

Het kostte wat tijd om een ​​dokter te vinden die met mij wilde samenwerken. Ik zei tegen mensen: als je een probleem hebt, zal ik proberen het op te lossen. Ik heb geen financiering nodig. Geef me een probleem en de gegevens. Maar het kostte me een tijdje om medewerkers te vinden. Weet je, ik was geen bijzonder populair personage.

Vanuit dit NLP-werk ben ik vervolgens overgegaan op het voorspellen van het patiëntrisico op basis van mammogrammen, waarbij ik beeldherkenning gebruikte om te voorspellen of je kanker zou krijgen of niet - hoe je ziekte waarschijnlijk zal vorderen.

Zouden deze hulpmiddelen een verschil hebben gemaakt als ze voor u beschikbaar waren geweest toen u de diagnose kreeg?

Absoluut. We kunnen dit spul op mijn mammogrammen laten zien van voor mijn diagnose, en het was er al - je kunt het duidelijk detecteren. Het is geen wonder: kanker groeit niet van gisteren naar vandaag. Het is een vrij lang proces. Er zijn tekenen in het weefsel, maar het menselijk oog heeft een beperkt vermogen om zeer kleine patronen te detecteren. In mijn geval zou het twee jaar eerder zichtbaar zijn geweest.

Waarom heeft de dokter het niet gezien?

Het is een zware taak. Elk mammogram heeft witte vlekken die al dan niet kanker kunnen zijn, en een arts moet beslissen welke van deze witte vlekken moet worden gebiopteerd. De arts moet een evenwicht vinden tussen handelen op intuïtie versus het schaden van een patiënt door biopsieën te doen die niet nodig zijn. Maar dit is precies het soort beslissing dat datagestuurde AI ons kan helpen op een veel systematischer manier te nemen.

Dat brengt ons terug bij het probleem van vertrouwen. Hebben we een technische oplossing nodig, waardoor tools beter verklaarbaar zijn, of moeten we de mensen die ze gebruiken opleiden?

Dat is een geweldige vraag. Sommige beslissingen zijn heel gemakkelijk uit te leggen aan een mens. Als een AI kanker detecteert in een afbeelding, kun je inzoomen op het gebied waar het model naar kijkt als het de voorspelling doet. Maar als je een machine vraagt, zoals we steeds vaker doen, om dingen te doen die een mens niet kan, wat gaat de machine je dan precies laten zien? Het is als een hond, die veel beter kan ruiken dan wij, die uitlegt hoe hij iets kan ruiken. Die capaciteit hebben we gewoon niet. Ik denk dat naarmate de machines veel geavanceerder worden, dit de grote vraag is. Welke verklaring zou u overtuigen als u deze taak niet alleen kunt oplossen?

Dus moeten we wachten tot AI zichzelf volledig kan verklaren?

Nee. Bedenk hoe we nu vragen over leven en dood beantwoorden. De meeste medische vragen, zoals hoe u reageert op deze behandeling of dat medicijn, worden beantwoord met statistische modellen die tot fouten kunnen leiden. Geen van hen is perfect.

Zo is het ook met AI. Ik denk niet dat het goed is om te wachten tot we perfecte AI hebben ontwikkeld. Ik denk niet dat dat snel zal gebeuren. De vraag is hoe de sterke punten ervan kunnen worden gebruikt en de zwakke punten kunnen worden vermeden.

Tot slot, waarom heeft AI nog niet veel impact gehad op covid-19?

AI gaat niet alle grote problemen oplossen die we hebben. Maar er zijn enkele kleine voorbeelden. Toen alle niet-essentiële klinische diensten eerder dit jaar werden afgebouwd, gebruikten we een AI-tool om te identificeren welke oncologiepatiënten in Boston nog steeds naar hun jaarlijkse mammogram moesten gaan.

Maar de belangrijkste reden waarom AI niet nuttiger is geweest, is niet het gebrek aan technologie, maar het gebrek aan gegevens. Weet je, ik zit in het leiderschapsteam van MIT's J-Clinic, een centrum voor AI in de gezondheidszorg, en er waren velen van ons in april die zeiden: we willen echt iets doen - waar kunnen we de gegevens vandaan halen? Maar we konden het niet krijgen. Het was onmogelijk. Zelfs nu, zes maanden later, is het niet duidelijk hoe we aan gegevens komen.

De tweede reden is dat we er niet klaar voor waren. Zelfs in normale omstandigheden, wanneer mensen niet onder stress staan, is het moeilijk om AI-tools in een proces op te nemen en ervoor te zorgen dat het allemaal goed wordt gereguleerd. In de huidige crisis hebben we die capaciteit simpelweg niet.

Weet je, ik begrijp waarom artsen conservatief zijn: het leven van mensen staat op het spel. Maar ik hoop wel dat dit een wake-up call zal zijn voor hoe onvoorbereid we zijn om snel te reageren op nieuwe bedreigingen. Hoezeer ik ook denk dat AI de technologie van de toekomst is, tenzij we erachter komen hoe we erop kunnen vertrouwen, zullen we het niet vooruit zien gaan.

zich verstoppen