211service.com
De medische AI van Google was supernauwkeurig in een laboratorium. Het echte leven was een ander verhaal.
Wikimedia Commons
De covid-19-pandemie zet de ziekenhuismiddelen in veel landen in de wereld op het breekpunt. Het is geen verrassing dat veel mensen hopen dat AI de screening van patiënten kan versnellen en de druk op klinisch personeel kan verlichten. Maar een onderzoek van Google Health—de eerst kijken naar de impact van een deep-learning tool in echte klinische settings -onthult dat zelfs de meest nauwkeurige AI's de zaken zelfs erger kunnen maken als ze niet zijn afgestemd op de klinische omgevingen waarin ze zullen werken.
Bestaande regels voor het inzetten van AI in klinische omgevingen, zoals de normen voor FDA-goedkeuring in de VS of een CE-markering in Europa, zijn vooral gericht op nauwkeurigheid. Er zijn geen expliciete eisen dat een AI de uitkomst voor patiënten moet verbeteren, vooral omdat dergelijke onderzoeken nog niet zijn uitgevoerd. Maar dat moet veranderen, zegt Emma Beede, een UX-onderzoeker bij Google Health: we moeten begrijpen hoe AI-tools in context gaan werken voor mensen, vooral in de gezondheidszorg, voordat ze op grote schaal worden ingezet.
De eerste kans van Google om de tool in een echte omgeving te testen, kwam uit Thailand. Het ministerie van Volksgezondheid van het land heeft een jaarlijks doel gesteld om 60% van de mensen met diabetes te screenen op diabetische retinopathie, die blindheid kan veroorzaken als ze niet vroeg wordt opgemerkt. Maar met ongeveer 4,5 miljoen patiënten tegen slechts 200 netvliesspecialisten - ongeveer het dubbele van de verhouding in de VS - hebben klinieken moeite om het doel te bereiken. Google heeft goedkeuring voor CE-markering, die betrekking heeft op Thailand, maar het wacht nog steeds op goedkeuring door de FDA. Dus om te zien of AI zou kunnen helpen, hebben Beede en haar collega's 11 klinieken in het hele land uitgerust met een diepgaand leersysteem dat is opgeleid om tekenen van oogziekte bij patiënten met diabetes te herkennen.
In het systeem dat Thailand had gebruikt, maken verpleegsters tijdens controles foto's van de ogen van patiënten en sturen ze deze op om door een specialist elders te worden bekeken - een proces dat tot 10 weken kan duren. De AI die is ontwikkeld door Google Health kan met een oogscan tekenen van diabetische retinopathie met een nauwkeurigheid van meer dan 90% identificeren - wat het team het niveau van menselijke specialisten noemt - en geeft in principe een resultaat in minder dan 10 minuten. Het systeem analyseert beelden op veelbetekenende indicatoren van de aandoening, zoals verstopte of lekkende bloedvaten.
Meer over het coronavirus
Onze meest essentiële dekking van covid-19 is gratis, waaronder:
Wat is kudde-immuniteit?
Hoe werkt het coronavirus?
Wat zijn de mogelijke behandelingen?
Welke medicijnen werken het beste?
Wat is de juiste manier om aan social distancing te doen?
Andere veelgestelde vragen over het coronavirus
---
Nieuwsbrief: Coronavirus Tech Report
Zoomshow: Radio Corona
Zie ook:
Al onze covid-19 dekking
Het covid-19 speciale nummer
Klik hier om u te abonneren en onze non-profit journalistiek te steunen.
Geluiden indrukwekkend. Maar een nauwkeurigheidsbeoordeling van een laboratorium gaat slechts zo ver. Het zegt niets over hoe de AI zal presteren in de chaos van een echte omgeving, en dit is wat het Google Health-team wilde weten. Gedurende een aantal maanden observeerden ze verpleegkundigen die oogscans uitvoerden en interviewden ze over hun ervaringen met het nieuwe systeem. De reacties waren niet helemaal positief.
Als het goed werkte, versnelde de AI de zaken. Maar soms leverde het helemaal geen resultaat op. Zoals de meeste beeldherkenningssystemen was het deep-learningmodel getraind op scans van hoge kwaliteit; om nauwkeurigheid te garanderen, werd het ontworpen om afbeeldingen te weigeren die onder een bepaalde kwaliteitsdrempel vielen. Omdat verpleegkundigen tientallen patiënten per uur scannen en vaak de foto's maakten bij slechte lichtomstandigheden, werd meer dan een vijfde van de afbeeldingen afgewezen.
Patiënten van wie de beelden uit het systeem werden gegooid, kregen te horen dat ze op een andere dag een specialist in een andere kliniek moesten bezoeken. Als ze het moeilijk vonden om vrij te nemen van hun werk of geen auto hadden, was dat natuurlijk onhandig. Verpleegkundigen voelden zich gefrustreerd, vooral toen ze meenden dat de afgewezen scans geen ziekteverschijnselen vertoonden en de vervolgafspraken niet nodig waren. Ze verspilden soms tijd aan het opnieuw maken of bewerken van een afbeelding die de AI had afgewezen.
Een verpleegster bedient de retinale scanner en maakt beelden van de achterkant van het oog van een patiënt. (Google)
Omdat het systeem beelden naar de cloud moest uploaden voor verwerking, zorgden ook slechte internetverbindingen in verschillende klinieken voor vertragingen. Patiënten houden van de onmiddellijke resultaten, maar het internet is traag en patiënten klagen dan, zei een verpleegster. Ze wachten hier al sinds 6 uur 's ochtends, en de eerste twee uur konden we maar 10 patiënten screenen.
Het Google Health-team werkt nu samen met lokaal medisch personeel om nieuwe workflows te ontwerpen. Verpleegkundigen zouden bijvoorbeeld kunnen worden getraind om hun eigen oordeel te gebruiken in grensgevallen. Het model zelf kan ook worden aangepast om onvolmaakte afbeeldingen beter te verwerken.
Een terugslag riskeren
Dit is een cruciale studie voor iedereen die geïnteresseerd is in het vuil maken van de handen en het daadwerkelijk implementeren van AI-oplossingen in de echte wereld, zegt Hamid Tizhoosh van de Universiteit van Waterloo in Canada, die werkt aan AI voor medische beeldvorming. Tizhoosh is erg kritisch over wat hij ziet als een haast om nieuwe AI-tools aan te kondigen als reactie op covid-19. In sommige gevallen worden tools ontwikkeld en modellen vrijgegeven door teams zonder expertise in de gezondheidszorg, zegt hij. Hij ziet het Google-onderzoek als een tijdige herinnering dat het vaststellen van nauwkeurigheid in een laboratorium slechts de eerste stap is.
Michael Abramoff, oogarts en computerwetenschapper aan de University of Iowa Hospitals and Clinics, ontwikkelt al enkele jaren een AI voor het diagnosticeren van netvliesaandoeningen en is CEO van een spin-off-startup genaamd IDx Technologies, die heeft samengewerkt met IBM Watson. Abramoff was in het verleden een cheerleader voor AI in de gezondheidszorg, maar hij waarschuwt ook voor haast en waarschuwt voor een terugslag als mensen slechte ervaringen hebben met AI. Ik ben zo blij dat Google laat zien dat ze bereid zijn om naar de daadwerkelijke workflow in klinieken te kijken, zegt hij. Gezondheidszorg is veel meer dan algoritmen.
Abramoff zet ook vraagtekens bij het nut van het vergelijken van AI-tools met menselijke specialisten als het gaat om nauwkeurigheid. We willen natuurlijk niet dat een AI een slechte beslissing neemt. Maar menselijke artsen zijn het altijd oneens, zegt hij - en dat is prima. Een AI-systeem moet passen in een proces waarin bronnen van onzekerheid worden besproken in plaats van eenvoudigweg te worden afgewezen.
Doe het goed en de voordelen kunnen enorm zijn . Toen het goed werkte, zagen Beede en haar collega's hoe de AI mensen die goed waren in hun werk nog beter maakte. Er was een verpleegster die in haar eentje 1.000 patiënten screende, en met deze tool is ze niet te stoppen, zegt ze. Het kon de patiënten niet schelen dat het een AI was in plaats van een mens die hun afbeeldingen las. Ze gaven meer om wat hun ervaring zou zijn.
Correctie: de openingszin is aangepast om duidelijk te maken dat niet alle landen overspoeld worden.