Diep leren is een zwarte doos, maar de gezondheidszorg vindt het niet erg

Jon Han

Eerder in 2017 toonden kunstmatige-intelligentiewetenschapper Sebastian Thrun en collega's van Stanford University aan dat een deep learning-algoritme in staat was om potentieel kankerachtige huidlaesies even nauwkeurig te diagnosticeren als een gecertificeerde dermatoloog.

De kankerbevinding, gerapporteerd in Natuur, maakte deel uit van een stroom van rapporten die een vroege blik wierpen in wat een nieuw tijdperk van diagnose door software zou kunnen zijn, waarin kunstmatige intelligentie artsen helpt - of zelfs met hen concurreert.

Experts zeggen dat medische beelden, zoals foto's, röntgenfoto's en MRI's, bijna perfect passen bij de sterke punten van deep learning-software, die de afgelopen jaren heeft geleid tot doorbraken in het herkennen van gezichten en objecten op foto's.

Bedrijven zijn al op jacht. Voorwaar, de life sciences tak van Alphabet, heeft de krachten gebundeld met Nikon afgelopen december om algoritmen te ontwikkelen om oorzaken van blindheid bij diabetici op te sporen. Het veld van de radiologie wordt ondertussen de Silicon Valley van de geneeskunde genoemd vanwege het aantal gedetailleerde beelden dat het genereert.

Black-box geneeskunde

Hoewel de voorspellingen van het team van Thrun zeer nauwkeurig waren, wist niemand precies welke kenmerken van een mol het deep-learningprogramma gebruikte om het als kankerachtig of goedaardig te classificeren. Het resultaat is de medische versie van wat wel het black box-probleem van deep learning wordt genoemd.

In tegenstelling tot meer traditionele vision-software, waarbij een programmeur regels definieert - een stopbord heeft bijvoorbeeld acht kanten - vindt het algoritme bij diepgaand leren de regels zelf, maar vaak zonder een controlespoor achter te laten om zijn beslissingen uit te leggen.

In het geval van black-box geneeskunde kunnen artsen niet weten wat er aan de hand is, omdat niemand dat weet; het is inherent ondoorzichtig, zegt Nicholson Price, een jurist van de Universiteit van Michigan die zich bezighoudt met gezondheidsrecht.

Verwant verhaal

Lees volgende Waarom reageren de meeste patiënten niet op de nieuwste behandelingen?

Toch zegt Price dat dat misschien geen ernstig obstakel vormt in de gezondheidszorg. Hij vergelijkt deep learning met drugs waarvan de voordelen op onbekende manieren tot stand komen. Lithium is daar een voorbeeld van. Het exacte biochemische mechanisme bij het beïnvloeden van de stemming moet nog worden opgehelderd, maar het medicijn is nog steeds goedgekeurd voor de behandeling van een bipolaire stoornis. Het mechanisme achter aspirine, het meest gebruikte medicijn aller tijden, werd 70 jaar lang niet begrepen.

Evenzo, zegt Price, zal het black-box-probleem geen probleem vormen voor de Amerikaanse Food and Drug Administration, die, naast het goedkeuren van nieuwe medicijnen, ook software reguleert als het doel is om ziekten te behandelen of te voorkomen.

In een verklaring zegt de FDA dat het in de afgelopen 20 jaar een aantal beeldanalysetoepassingen heeft goedgekeurd die afhankelijk zijn van een verscheidenheid aan patroonherkennings-, machine learning- en computervisietechnieken. Het bureau bevestigde dat het meer software ziet die wordt aangedreven door deep learning en merkt op dat bedrijven de details van hun algoritmen vertrouwelijk mogen houden.

De FDA heeft al groen licht gegeven voor ten minste één deep-learning-algoritme. In januari heeft de FDA software voor verkoop goedgekeurd die is ontwikkeld door Arterys, een particulier bedrijf voor medische beeldvorming in San Francisco. Het algoritme, DeepVentricle, analyseert MRI-beelden van de inwendige contouren van de hartkamers en berekent het bloedvolume dat het hart van een patiënt kan vasthouden en pompen. Die berekening is in minder dan 30 seconden voltooid, zegt Arterys, terwijl conventionele methoden doorgaans een uur duren.

De FDA eiste dat Arterys uitgebreide tests deed om er zeker van te zijn dat de resultaten van het algoritme overeenkwamen met die van artsen. U moet statistisch bewijzen dat uw algoritme volgt wat het ook is waarvoor het bedoeld is of [wat de] marketing beweert dat het doet, zegt John Axerio-Cilies, Chief Technology Officer van het bedrijf.

Grote vraag

Om hun software te trainen, voerde het team onder leiding van Thrun, een voormalig vice-president bij Google die daar aan zelfrijdende auto's werkte, 129.405 afbeeldingen van huidaandoeningen die door experts waren geëvalueerd. Deze omvatten 2.032 verschillende ziekten en bevatten 1.942 afbeeldingen van bevestigde huidkankers.

Verwant verhaal

Meer over Sebastian Thrun Sebastian Thrun hielp de hype rond massale online open college-cursussen aan te wakkeren, maar heeft zijn eigen startup omgevormd om zich in plaats daarvan op beroepsopleiding te concentreren.

Uiteindelijk was de software in staat beter te presteren dan 21 dermatologen bij het identificeren van welke moedervlekken potentieel kankerachtig waren.

Wanneer dermatologen het potentieel van deze technologie zien, denk ik dat de meesten het zullen omarmen, zegt Robert Novoa, een Stanford-dermatoloog en auteur van het onderzoek. Hij en andere teamleden weigerden te zeggen of ze van plan zijn de software te commercialiseren.

Elke zorg dat artsen binnenkort werkloos zullen zijn, is ook misplaatst, zegt Allan Halpern, dermatoloog bij Memorial Sloan Kettering en voorzitter van de International Society for Digital Imaging of the Skin. Ik denk dat de dreiging het tegenovergestelde is, zegt hij. Algoritmen kunnen de vraag naar dermatologische diensten drastisch doen toenemen.

Dat komt omdat een positief resultaat op een screeningstest nog steeds een biopsie vereist. Deep-learning software zou een rol kunnen spelen in huisartsenpraktijken, zegt Halpern, maar als het beschikbaar zou worden gemaakt als een bevolkingsbrede screeningstest, of via een consumenten-app, zouden er niet genoeg dermatologen zijn om de aanwijzingen op te volgen .

Axerio-Cilies zegt dat bedrijven in de verleiding zullen komen om deep-learningtools rechtstreeks aan consumenten aan te bieden. Mensen kunnen bijvoorbeeld hun eigen moedervlekken scannen om te zien of ze naar de dokter moeten. Sommige niet-AI-apps voor mobiele telefoons, zoals Mol Mapper , kunnen mensen nu al verdachte moedervlekken volgen en eventuele wijzigingen in de loop van de tijd vastleggen.

Halpern zegt echter dat hij niet denkt dat consumenten klaar zijn om met diagnostische systemen om te gaan die hen zouden kunnen vertellen dat een moedervlek 5 procent kans heeft, of 50 procent kans, om kanker te zijn.

We zijn niet zo goed in het gebruik van kansen, zegt hij.

zich verstoppen