AI kan de gezondheidszorg eerlijker maken, door ons te helpen geloven wat patiënten zeggen

mevrouw Tech

In de afgelopen jaren heeft onderzoek aangetoond dat deep learning de prestaties op expertniveau kan evenaren bij medische beeldvormingstaken zoals: vroege opsporing van kanker en oogziekte diagnose . Maar er is ook reden tot voorzichtigheid. Ander onderzoek heeft aangetoond dat deep learning de neiging heeft om: discriminatie voortzetten . Met een gezondheidszorgsysteem dat al vol ongelijkheden zit, kunnen slordige toepassingen van diep leren dat nog erger maken.

nutsvoorzieningen een nieuw papier gepubliceerd in Natuurgeneeskunde stelt een manier voor om medische algoritmen te ontwikkelen die de bestaande ongelijkheid kunnen helpen terugdraaien in plaats van verergeren. De sleutel, zegt Ziad Obermeyer, universitair hoofddocent aan UC Berkeley die toezicht hield op het onderzoek, is om te stoppen met het trainen van algoritmen om de prestaties van menselijke experts te evenaren.

Het artikel kijkt naar een specifiek klinisch voorbeeld van de verschillen die bestaan ​​bij de behandeling van artrose in de knie, een aandoening die chronische pijn veroorzaakt. Door de ernst van die pijn te beoordelen, kunnen artsen de juiste behandeling voorschrijven, waaronder fysiotherapie, medicatie of een operatie. Dit wordt traditioneel gedaan door een radioloog die een röntgenfoto van de knie beoordeelt en de pijn van de patiënt beoordeelt op de Kellgren-Lawrence-graad (KLG), die pijnniveaus berekent op basis van de aanwezigheid van verschillende radiografische kenmerken, zoals de mate van ontbrekend kraakbeen of structurele schade.

Maar uit gegevens verzameld door het National Institute of Health bleek dat artsen die deze methode gebruiken systematisch de pijn van zwarte patiënten zo veel als veel minder ernstig beoordelen dan wat ze zeggen dat ze ervaren. Patiënten rapporteren zelf hun pijnniveaus met behulp van een enquête waarin wordt gevraagd hoeveel pijn het doet om verschillende dingen te doen, zoals het volledig strekken van hun knie. Maar deze zelfgerapporteerde pijnniveaus worden genegeerd ten gunste van de KLG-score van de radioloog bij het voorschrijven van een behandeling. Met andere woorden, zwarte patiënten die dezelfde hoeveelheid ontbrekend kraakbeen vertonen als blanke patiënten melden zelf hogere niveaus van pijn.

Dit heeft medische experts consequent gekwetst. Een hypothese is dat zwarte patiënten hogere niveaus van pijn zouden kunnen rapporteren om artsen ertoe te brengen hen serieuzer te behandelen. Maar er is een alternatieve verklaring. De KLG-methodologie zelf kan bevooroordeeld zijn. Het werd enkele decennia geleden ontwikkeld met blanke Britse bevolkingsgroepen. Sommige medische experts beweren dat de lijst met radiografische markers die clinici moeten zoeken, mogelijk niet alle mogelijke fysieke bronnen van pijn binnen een meer diverse populatie bevatten. Anders gezegd, er kunnen radiografische indicatoren van pijn zijn die vaker voorkomen bij zwarte mensen die gewoon geen deel uitmaken van de KLG-rubriek.

Verwant verhaal

Artsen gebruiken AI om covid-19-patiënten te triage. De tools zijn er misschien om te blijven Geconfronteerd met personeelstekorten en overweldigende patiëntenbelasting, wenden steeds meer ziekenhuizen zich tot geautomatiseerde tools om hen te helpen de pandemie te beheersen.

Om deze mogelijkheid te testen, hebben de onderzoekers een deep-learning model getraind om het zelfgerapporteerde pijnniveau van patiënten te voorspellen op basis van hun knie-röntgenfoto. Als het resulterende model een verschrikkelijke nauwkeurigheid zou hebben, zou dit suggereren dat zelfgerapporteerde pijn nogal willekeurig is. Maar als het model echt een goede nauwkeurigheid zou hebben, zou dit het bewijs leveren dat zelfgerapporteerde pijn in feite gecorreleerd is met radiografische markers in de röntgenfoto.

Na verschillende experimenten te hebben uitgevoerd, waaronder enkele die waren ontworpen om eventuele verstorende factoren buiten beschouwing te laten, ontdekten de onderzoekers dat het model veel nauwkeuriger was dan KLG bij het voorspellen van zelfgerapporteerde pijnniveaus voor zowel blanke als zwarte patiënten, maar vooral voor zwarte patiënten. Het verminderde de raciale ongelijkheid op elk pijnniveau met bijna de helft.

Het doel is niet noodzakelijk om dit algoritme in een klinische setting te gaan gebruiken. Maar door beter te presteren dan de KLG-methodologie, onthulde het dat de standaard manier om pijn te meten gebrekkig is, tegen veel hogere kosten voor zwarte mensen. Dit zou de medische gemeenschap een tip moeten geven om te onderzoeken welke radiografische markers het algoritme mogelijk ziet, en om hun scoremethodologie bij te werken.

Het belicht een heel opwindend deel van waar dit soort algoritmen in het proces van medische ontdekking kunnen passen, zegt Obermeyer. Het vertelt ons of er hier iets is dat de moeite waard is om naar te kijken dat we niet begrijpen. Het vormt de weg voor mensen om vervolgens in te grijpen en, met behulp van deze algoritmen als hulpmiddelen, te proberen erachter te komen wat er aan de hand is.

Het leuke van dit artikel is dat het vanuit een heel ander perspectief over dingen denkt, zegt Irene Chen, een onderzoeker aan het MIT die bestudeert hoe ongelijkheden in de gezondheidszorg kunnen worden verminderd door machinaal leren en was niet betrokken bij het artikel. In plaats van het algoritme te trainen op gevestigde vakkennis, zeiden de onderzoekers, kozen de onderzoekers ervoor om de zelfbeoordeling van patiënten als waarheid te beschouwen. Daardoor ontdekte het belangrijke hiaten in wat het medische veld gewoonlijk beschouwt als de meer objectieve pijnmaatstaf.

Dat was precies het geheim, beaamt Obermeyer. Als algoritmen alleen worden getraind om de prestaties van experts te evenaren, zullen ze volgens hem eenvoudig bestaande hiaten en ongelijkheden in stand houden. Dit onderzoek is een glimp van een meer algemene pijplijn die we in de geneeskunde steeds vaker kunnen gebruiken voor het genereren van nieuwe kennis.

zich verstoppen