211service.com
AI leert wanneer het wel en niet moet worden overgelaten aan een mens
Mark Schiefelbein/AP
De context: Studies tonen aan dat wanneer mensen en AI-systemen samenwerken, ze beter kunnen presteren dan een van beide alleen. Medische diagnostische systemen worden vaak gecontroleerd door menselijke artsen, en inhoudsmoderatiesystemen filteren wat ze kunnen voordat menselijke hulp nodig is. Maar algoritmen zijn zelden ontworpen om te optimaliseren voor deze AI-naar-mens overdracht. Als dat zo was, zou het AI-systeem zich alleen overgeven aan zijn menselijke tegenhanger als de persoon daadwerkelijk een betere beslissing zou kunnen nemen.
Het onderzoek: Onderzoekers van MIT's Computer Science and AI Laboratory (CSAIL) hebben nu ontwikkeld een AI-systeem om dit soort optimalisatie te doen op basis van sterke en zwakke punten van de menselijke medewerker. Het maakt gebruik van twee afzonderlijke modellen voor machine learning; één neemt de daadwerkelijke beslissing, of dat nu het diagnosticeren van een patiënt is of het verwijderen van een bericht op sociale media, en één voorspelt of de AI of de mens de betere beslisser is.
Het laatste model, dat de onderzoekers de afwijzing noemen, verbetert iteratief zijn voorspellingen op basis van het trackrecord van elke beslisser in de loop van de tijd. Het kan ook rekening houden met factoren die verder gaan dan prestaties, waaronder de tijdsdruk van een persoon of de toegang van een arts tot gevoelige patiëntinformatie die niet beschikbaar is voor het AI-systeem.
De resultaten: De onderzoekers testten de hybride mens-AI-aanpak in verschillende scenario's, waaronder voor beeldherkenningstaken en voor detectie van haatspraak. Het AI-systeem kon zich aanpassen aan het gedrag van de expert en indien nodig uitstellen, waardoor de twee besluitvormers snel een gecombineerd nauwkeurigheidsniveau konden bereiken dat hoger was dan bij een eerdere hybride mens-AI-benadering.
Casestudy: Hoewel deze experimenten nog relatief eenvoudig zijn, denken de onderzoekers dat een dergelijke aanpak uiteindelijk kan worden toegepast op complexe beslissingen in de gezondheidszorg en elders. Overweeg een AI-systeem dat artsen helpt het juiste antibioticum voor te schrijven. Hoewel breedspectrumantibiotica zeer effectief zijn, kan overmatig gebruik ervan leiden tot antibioticaresistentie. Specifieke antibiotica daarentegen voorkomen dat probleem, maar mogen alleen worden gebruikt als ze een grote kans van slagen hebben. Gezien deze wisselwerking zou het AI-systeem kunnen leren zich aan te passen aan verschillende artsen met verschillende vooroordelen in hun voorschriften, en te corrigeren voor neigingen om breedspectrumantibiotica te veel of te weinig voor te schrijven.