211service.com
De financiële wereld wil de zwarte dozen van AI openen
Krachtige methoden voor machinaal leren hebben de technische wereld de afgelopen jaren stormenderhand veroverd, waardoor spraak- en beeldherkenning, machinevertaling en vele andere dingen enorm zijn verbeterd.
Nu staan deze technieken klaar om talloze andere industrieën op hun kop te zetten, waaronder de financiële wereld. Maar de vooruitgang kan worden belemmerd door een belangrijk probleem: het is vaak onmogelijk uit te leggen hoe deze deep learning-algoritmen tot een beslissing komen (zie The Dark Secret at the Heart of AI).
Adam Wenchel, vice-president machine learning en data-innovatie bij Capital One, zegt dat het bedrijf deep learning wil gebruiken voor allerlei functies, waaronder het beslissen wie een creditcard krijgt. Maar het kan dat niet doen, omdat de wet bedrijven verplicht om de reden voor een dergelijke beslissing uit te leggen aan een potentiële klant. Eind vorig jaar richtte Capital One een onderzoeksteam op, geleid door Wenchel, dat zich toelegde op het vinden van manieren om deze computertechnieken beter verklaarbaar te maken.
Ons onderzoek moet ervoor zorgen dat we die hoge lat voor verklaarbaarheid kunnen handhaven terwijl we deze veel geavanceerdere en inherent meer ondoorzichtige modellen gebruiken, zegt hij.
Deep learning is de afgelopen vijf jaar naar voren gekomen als een krachtige manier om menselijke perceptuele vermogens na te bootsen. De aanpak omvat het trainen van een zeer groot neuraal netwerk om patronen in gegevens te herkennen. Het is losjes geïnspireerd op een theorie over de manier waarop neuronen en synapsen leren vergemakkelijken. Hoewel elk gesimuleerd neuron gewoon een wiskundige functie is, maakt de complexiteit van deze onderling verbonden functies de redenering van een diep netwerk uiterst moeilijk te ontwarren.
Sommige andere technieken voor machine learning, waaronder technieken die in bepaalde scenario's beter presteren dan deep learning, zijn veel transparanter. Maar deep learning, dat geavanceerde analyses mogelijk maakt die nuttig zijn voor de financiële sector, kan erg moeilijk zijn om te ondervragen.
Sommige startups proberen de bezorgdheid over de ondoorzichtigheid van bestaande algoritmen uit te buiten door te beloven transparantere benaderingen te gebruiken (zie Een door AI gevoede kredietformule kan u helpen een lening te krijgen).
Dit probleem kan de komende jaren belangrijker worden naarmate deep learning vaker wordt gebruikt en regelgevers hun aandacht richten op algoritmische verantwoording. Vanaf volgend jaar kan de Europese Unie op grond van de Algemene Verordening Gegevensbescherming eisen dat elk bedrijf een beslissing van een van zijn algoritmen kan uitleggen.
Het probleem heeft ook de aandacht getrokken van het Defense Advanced Research Projects Agency, dat onderzoek doet voor het Amerikaanse ministerie van Defensie. Vorig jaar lanceerde DARPA een poging om benaderingen te financieren om machine learning minder ondoorzichtig te maken (zie The U.S. Military Wants Autonomous Machines to Explain Themselves). De 13 projecten die voor financiering zijn geselecteerd, laten verschillende benaderingen zien om algoritmen transparanter te maken.
De hoop is dat deep learning kan worden gebruikt om verder te gaan dan alleen het afstemmen van menselijke perceptuele vermogens. Een creditcardmaatschappij kan bijvoorbeeld kredietgeschiedenis en andere financiële gegevens in een diep netwerk invoeren en het trainen om mensen te herkennen die mogelijk in gebreke blijven bij hun creditcardbetalingen.
Capital One kijkt ook naar deep learning als een manier om automatisch frauduleuze kosten betrouwbaarder te detecteren, zegt Wenchel, hoewel het bedrijf op zijn hoede is om een dergelijk systeem te vertrouwen als de redenering ervan niet kan worden onderzocht. We opereren in een sterk gereguleerde industrie, zegt hij. We moeten zowel intern als aan mensen kunnen uitleggen waarom we beslissingen nemen. En zorg ervoor dat we beslissingen nemen om de juiste redenen.
Deep learning is momenteel een heel groot modewoord en er is grote vooruitgang geboekt op het gebied van computervisie en natuurlijke taalverwerking, zegt Trevor Darrell , een professor aan UC Berkeley die een van de projecten leidt die zijn geselecteerd voor financiering van DARPA. Maar [deep-learningsystemen] worden bekritiseerd omdat het soms moeilijk is om erachter te komen wat er binnenin gebeurt.
Voor het DARPA-project ontwikkelt de groep van Darrell verschillende nieuwe benaderingen voor diep leren, waaronder complexere diepe netwerken die in staat zijn om meerdere dingen tegelijk te leren. Er zijn ook benaderingen die een verklaring in de trainingsgegevens opnemen: in het geval van ondertiteling van afbeeldingen, bijvoorbeeld, zou een afbeelding die als een kat is geclassificeerd, worden gekoppeld aan een verklaring waarom deze als zodanig is geclassificeerd. Dezelfde benadering kan worden gebruikt bij het classificeren van creditcardafschrijvingen als frauduleus. Al deze dingen brengen ons naar beter interpreteerbare diepe netwerken, zegt Darrell.