De FDA wil machine learning in de gezondheidszorg reguleren

Categorie: Kunstmatige intelligentie Geplaatst 04 april

De Amerikaanse Food and Drug Administration heeft aangekondigd dat het zich voorbereidt op het reguleren van AI-systemen die zichzelf kunnen updaten en verbeteren naarmate ze meer trainingsgegevens verzamelen.

De aankondiging: Het bureau vrijgegeven een witboek een regelgevingskader voorstellen om te beslissen hoe medische producten die AI gebruiken, goedkeuring moeten krijgen voordat ze op de markt kunnen komen. Het is de grootste stap die de FDA tot nu toe heeft genomen in de richting van het formaliseren van het toezicht op producten die gebruikmaken van machine learning (ML).

De uitdaging: Machine learning-systemen zijn lastig te reguleren omdat ze hun prestaties continu kunnen updaten en verbeteren door middel van nieuwe trainingsgegevens. In gevallen waarin de FDA eerder op ML gebaseerde medische software heeft goedgekeurd, heeft het vereist dat de algoritmen worden bevroren voordat ze commercieel worden ingezet en dat ze een hergoedkeuringsproces moeten doorlopen wanneer ze worden gewijzigd. Maar het bureau erkent dat dit proces betekent dat we de voordelen van de technologie mislopen. Nieuwe regels kunnen ertoe leiden dat ML-systemen tot op zekere hoogte evolueren na de eerste goedkeuring, terwijl de risico's van die evolutie worden beheerd.

Het frame: Bij het aanvragen van goedkeuring voor een bepaald product zouden aanbieders van ML-medische hulpmiddelen ook de mogelijkheid hebben om een ​​plan in te dienen voor geplande softwareaanpassingen, inclusief omscholing van modellen. Bovendien zou de FDA de kwaliteit van het productontwikkelingsproces van de leverancier evalueren om er bijvoorbeeld voor te zorgen dat zijn systeem wordt geverifieerd door middel van klinische proeven.

Volgende stappen: De FDA verzamelt nu feedback over het document. De paper laat zien dat er zorgvuldig over het vakgebied is nagedacht, Eric Topol, een expert op het snijvlak van deep learning en gezondheidszorg, vertelde Stat .

Meld u hier aan voor onze door Webby genomineerde nieuwsbrief The Algorithm voor meer informatie over de wereld van AI.