'Betrouwbare AI' is een raamwerk om unieke risico's te helpen beheren

'Betrouwbare AI' is een raamwerk om unieke risico's te helpen beheren

Geleverd door Het Deloitte AI Instituut

Kunstmatige intelligentie (AI)-technologie blijft met grote sprongen vooruitgaan en wordt snel een potentiële disrupter en essentiële enabler voor bijna elk bedrijf in elke branche. In dit stadium is een van de belemmeringen voor de wijdverbreide inzet van AI niet langer de technologie zelf; het is eerder een reeks uitdagingen die ironisch genoeg veel menselijker zijn: ethiek, bestuur en menselijke waarden.

Irfan Saif is directeur van Deloitte Risk and Financial Advisory. Beena Ammanath is algemeen directeur bij Deloitte Consulting LLP.

Naarmate AI zich uitbreidt tot bijna elk aspect van het moderne leven, nemen de risico's van zich misdragen AI exponentieel toe - tot een punt waarop die risico's letterlijk een kwestie van leven en dood kunnen worden. Voorbeelden uit de praktijk van AI die verkeerd is gegaan, zijn systemen die mensen discrimineren op basis van hun ras, leeftijd of geslacht en sociale-mediasystemen die onbedoeld geruchten en desinformatie verspreiden en meer.

Erger nog, deze voorbeelden zijn slechts het topje van de ijsberg. Naarmate AI op grotere schaal wordt ingezet, zullen de bijbehorende risico's waarschijnlijk alleen maar toenemen, met mogelijk ernstige gevolgen voor de samenleving als geheel en zelfs grotere gevolgen voor de verantwoordelijke bedrijven. Vanuit een zakelijk perspectief omvatten deze mogelijke gevolgen van alles, van rechtszaken, boetes van regelgevende instanties en boze klanten tot schaamte, reputatieschade en vernietiging van aandeelhouderswaarde.

Maar nu AI een vereiste zakelijke mogelijkheid wordt - niet alleen leuk om te hebben - hebben bedrijven niet langer de mogelijkheid om de unieke risico's van AI te vermijden door simpelweg AI helemaal te vermijden. In plaats daarvan moeten ze leren hoe ze AI-risico's effectief kunnen identificeren en beheren. Om het potentieel van samenwerking tussen mens en machine te benutten, moeten organisaties een plan voor AI communiceren dat wordt aangenomen en uitgesproken vanuit de postkamer naar de directiekamer. Door een ethisch kader te hebben, creëren organisaties een gemeenschappelijke taal om vertrouwen te uiten en de integriteit van gegevens te helpen waarborgen bij al hun interne en externe belanghebbenden. Het hebben van een gemeenschappelijk raamwerk en lens om het bestuur en het beheer van risico's die verband houden met AI consistent in de hele onderneming toe te passen, kan een snellere en consistentere adoptie van AI mogelijk maken.

Het betrouwbare AI-framework

Om de uitdagingen met betrekking tot AI-ethiek en -bestuur beter aan te pakken, helpt het om een ​​raamwerk te gebruiken. Het Trustworthy AI-raamwerk van Deloitte introduceert zes belangrijke dimensies die, wanneer ze gezamenlijk worden overwogen in de ontwerp-, ontwikkelings-, implementatie- en operationele fasen van de implementatie van AI-systemen, kunnen helpen de ethiek te beschermen en een betrouwbare AI-strategie op te bouwen.

Het Trustworthy AI-raamwerk is ontworpen om bedrijven te helpen bij het identificeren en beperken van potentiële risico's met betrekking tot AI-ethiek in elke fase van de AI-levenscyclus. Hier is een nadere blik op elk van de zes dimensies van het raamwerk.

Het betrouwbare AI-framework

1. Eerlijk, niet bevooroordeeld

Betrouwbare AI moet worden ontworpen en getraind om een ​​eerlijk, consistent proces te volgen en eerlijke beslissingen te nemen. Het moet ook interne en externe controles omvatten om discriminerende vooroordelen te verminderen.

Bias is een voortdurende uitdaging voor mens en samenleving, niet alleen voor AI. De uitdaging is echter nog groter voor AI omdat het een genuanceerd begrip van sociale normen ontbeert - om nog maar te zwijgen van de buitengewone algemene intelligentie die nodig is om gezond verstand te bereiken - wat mogelijk kan leiden tot beslissingen die technisch correct maar sociaal onaanvaardbaar zijn. AI leert van de datasets die worden gebruikt om het te trainen, en als die datasets real-world bias bevatten, kunnen AI-systemen die bias leren, versterken en verspreiden op digitale snelheid en schaal.

Een AI-systeem dat on-the-fly beslist waar online vacatures worden geplaatst, kan bijvoorbeeld onterecht advertenties voor beterbetaalde banen targeten op mannelijke bezoekers van een website, omdat uit de praktijkgegevens blijkt dat mannen doorgaans meer verdienen dan vrouwen. Evenzo kan een financiële dienstverlener die AI gebruikt om hypotheekaanvragen te screenen, ontdekken dat zijn algoritme mensen oneerlijk discrimineert op basis van factoren die sociaal niet acceptabel zijn, zoals ras, geslacht of leeftijd. In beide gevallen kan het bedrijf dat verantwoordelijk is voor de AI aanzienlijke gevolgen krijgen, waaronder boetes en reputatieschade.

Om problemen met eerlijkheid en vooringenomenheid te voorkomen, moeten bedrijven eerst bepalen wat eerlijk is. Dit kan veel moeilijker zijn dan het klinkt, omdat er voor een bepaalde kwestie over het algemeen geen enkele definitie van eerlijk is waarover alle mensen het eens zijn. Bedrijven moeten ook actief op zoek gaan naar vooringenomenheid binnen hun algoritmen en gegevens, de nodige aanpassingen doorvoeren en controles implementeren om ervoor te zorgen dat er niet onverwachts extra vooroordelen optreden. Wanneer vooringenomenheid wordt gedetecteerd, moet dit worden begrepen en vervolgens worden verminderd door middel van gevestigde processen om het probleem op te lossen en het vertrouwen van de klant te herstellen.

AI kan niet langer worden behandeld als een zwarte doos die input ontvangt en output genereert zonder een duidelijk begrip van wat er binnenin gebeurt.

2. Transparant en verklaarbaar

Om AI betrouwbaar te maken, hebben alle deelnemers het recht om te begrijpen hoe hun gegevens worden gebruikt en hoe de AI beslissingen neemt. De algoritmen, attributen en correlaties van de AI moeten openstaan ​​voor inspectie en de beslissingen ervan moeten volledig verklaarbaar zijn.

Naarmate beslissingen en processen die afhankelijk zijn van AI zowel in aantal als in belang toenemen, kan AI niet langer worden behandeld als een zwarte doos die input ontvangt en output genereert zonder een duidelijk begrip van wat er binnenin gebeurt.

Online retailers die AI gebruiken om productaanbevelingen aan klanten te doen, staan ​​bijvoorbeeld onder druk om de algoritmen uit te leggen en uit te leggen hoe aanbevelingsbeslissingen worden genomen. Evenzo wordt het Amerikaanse rechtssysteem geconfronteerd met voortdurende controverse over het gebruik van ondoorzichtige AI-systemen om strafrechtelijke veroordelingsbeslissingen te informeren.

Belangrijke aandachtspunten op dit gebied zijn onder meer het identificeren van de AI-use-cases waarvoor transparantie en verklaarbaarheid bijzonder belangrijk zijn, en vervolgens begrijpen welke gegevens worden gebruikt en hoe beslissingen worden genomen voor die use-cases. Ook op het gebied van transparantie neemt de druk toe om: mensen expliciet informeren wanneer ze interactie hebben met AI, in plaats van dat de AI zich voordoet als een echt persoon.

3. Verantwoordelijk en aanspreekbaar

Betrouwbare AI-systemen moeten beleid bevatten waarin duidelijk wordt vastgelegd wie verantwoordelijk en aansprakelijk is voor hun output. De technologie zelf de schuld geven van slechte beslissingen en misrekeningen is gewoon niet goed genoeg - niet voor de mensen die schade ondervinden, en zeker niet voor regelgevers van de overheid. Dit is een belangrijk probleem dat waarschijnlijk alleen maar belangrijker zal worden naarmate AI wordt gebruikt voor een groeiend aantal steeds kritiekere toepassingen, zoals ziektediagnose, vermogensbeheer en autonoom rijden.

Als een voertuig zonder bestuurder bijvoorbeeld een aanrijding veroorzaakt, wie is dan verantwoordelijk en aansprakelijk voor de schade? De bestuurder? De eigenaar van het voertuig? De fabrikant? De AI-programmeurs? De CEO?

Neem ook het voorbeeld van een beleggingsonderneming die een geautomatiseerd platform gebruikt dat wordt aangedreven door AI om namens haar klanten te handelen. Als een klant haar spaargeld via het bedrijf investeert en vervolgens alles verliest vanwege slechte algoritmen, moet er een mechanisme zijn om te bepalen wie verantwoordelijk is voor het probleem en wie verantwoordelijk is voor het rechtzetten van de zaken.

Belangrijke factoren om te overwegen zijn onder meer welke wet- en regelgeving de wettelijke aansprakelijkheid kan bepalen en of AI-systemen controleerbaar zijn en onder de bestaande klokkenluiderswetten vallen. En hoe worden problemen gecommuniceerd naar het publiek en regelgevers, en met welke consequenties worden de verantwoordelijke partijen geconfronteerd?

4. Robuust en betrouwbaar

Om ervoor te zorgen dat AI een brede acceptatie bereikt, moet het minstens zo robuust en betrouwbaar zijn als de traditionele systemen, processen en mensen die het verbetert of vervangt.

Om AI als betrouwbaar te beschouwen, moet het beschikbaar zijn wanneer het beschikbaar wordt geacht en moet het consistente en betrouwbare output genereren - taken correct uitvoeren in minder dan ideale omstandigheden en bij onverwachte situaties en gegevens. Betrouwbare AI moet goed opschalen en robuust en betrouwbaar blijven naarmate de impact groter en groter wordt. En als het faalt, moet het op een voorspelbare, verwachte manier falen.

Neem het voorbeeld van een zorgbedrijf dat AI gebruikt om afwijkingen in hersenscans te identificeren en een passende behandeling voor te schrijven. Om betrouwbaar te zijn, is het absoluut essentieel dat de Al-algoritmen consistente en betrouwbare resultaten produceren, aangezien er levens op het spel kunnen staan.

Bedrijven moeten allerlei soorten risico's overwegen en aanpakken (extern, fysiek, digitaal) en deze risico's vervolgens aan gebruikers communiceren.

Om AI te bereiken die robuust en betrouwbaar is, moeten bedrijven ervoor zorgen dat hun AI-algoritmen de juiste resultaten opleveren voor elke nieuwe dataset. Ze hebben ook gevestigde processen nodig voor het afhandelen van problemen en inconsistenties als en wanneer ze zich voordoen. De menselijke factor is hierbij een cruciaal element: begrijpen hoe menselijke input de betrouwbaarheid beïnvloedt; bepalen wie de juiste mensen zijn om input te leveren; en ervoor zorgen dat die mensen goed zijn toegerust en opgeleid, met name met betrekking tot vooringenomenheid en ethiek.

5. Respect voor privacy

Privacy is een kritieke kwestie voor alle soorten datasystemen, maar het is vooral van cruciaal belang voor AI, aangezien de geavanceerde inzichten die door AI-systemen worden gegenereerd vaak voortkomen uit gegevens die gedetailleerder en persoonlijker zijn. Betrouwbare AI moet voldoen aan dataregelgeving en data alleen gebruiken voor de genoemde en overeengekomen doeleinden.

De kwestie van AI-privacy reikt vaak verder dan de eigen muren van een bedrijf. De privacy van audiogegevens die zijn vastgelegd door AI-assistenten heeft bijvoorbeeld de laatste tijd de krantenkoppen gehaald, met controverses over de mate waarin leveranciers en partners van een bedrijf toegang krijgen tot de gegevens en of de gegevens moeten worden gedeeld met wetshandhavingsinstanties.

Bedrijven moeten weten welke klantgegevens worden verzameld en waarom, en of de gegevens worden gebruikt op de manier waarop klanten het hebben begrepen en overeengekomen. Klanten moeten ook het vereiste niveau van controle over hun gegevens krijgen, inclusief de mogelijkheid om: opt-in of afmelden om hun gegevens te laten delen. En als klanten zich zorgen maken over gegevensprivacy, hebben ze een manier nodig om die zorgen te uiten.

6. Veilig en zeker

Om betrouwbaar te zijn, moet AI worden beschermd tegen cyberbeveiligingsrisico's die kunnen leiden tot fysieke en/of digitale schade. Hoewel veiligheid en beveiliging duidelijk belangrijk zijn voor alle computersystemen, zijn ze vooral cruciaal voor AI vanwege de grote en toenemende rol en impact van AI op real-world activiteiten.

Als een op AI gebaseerd financieel systeem bijvoorbeeld wordt gehackt, kan dit leiden tot reputatieschade en verloren geld of gegevens. Dat zijn natuurlijk ernstige gevolgen. Ze zijn echter lang niet zo ernstig als de mogelijke gevolgen van een door AI aangedreven voertuig dat wordt gehackt, wat het leven van mensen in gevaar kan brengen.

Een ander voorbeeld van AI-cyberbeveiligingsrisico is een recent datalek waarbij miljoenen zijn betrokken vingerafdruk- en gezichtsherkenningsrecords . Deze inbreuk was bijzonder ernstig omdat het ging om biometrische gegevens van mensen, die permanent zijn en niet kunnen worden gewijzigd (in tegenstelling tot een gestolen wachtwoord of andere standaardgegevens die snel en gemakkelijk kunnen worden gewijzigd om de schade te beperken).

Om de veiligheid en beveiliging van hun AI-systemen te helpen waarborgen, moeten bedrijven alle soorten risico's grondig in overweging nemen en aanpakken - onder andere extern, fysiek en digitaal - en deze risico's vervolgens aan gebruikers communiceren. Hoewel externe risico's de meeste aandacht krijgen, kunnen interne risico's zoals fraude net zo ernstig zijn. Voor elke AI-use case moeten bedrijven beoordelen of de potentiële voordelen voldoende opwegen tegen de bijbehorende risico's.

AI die u kunt vertrouwen

AI-ethiek komt naar voren als de grootste uitdaging voor voortdurende AI-vooruitgang en wijdverbreide implementatie - en het is een uitdaging die bedrijven niet langer kunnen negeren nu AI een essentiële zakelijke mogelijkheid wordt. Het Trustworthy AI-raamwerk biedt een gestructureerde en alomvattende manier om na te denken over AI-ethiek, en helpt bedrijven bij het ontwerpen, ontwikkelen, implementeren en bedienen van AI-systemen die ze nodig hebben. kan vertrouwen.

Voor meer informatie bezoek www.deloitte.com/us/trustai .

zich verstoppen