AI kan wettelijk aansprakelijk worden gesteld voor zijn beslissingen

Kunstmatige intelligentie gaat een aanzienlijk grotere rol spelen in de samenleving. En dat roept de kwestie van aansprakelijkheid op. Als we afhankelijk zijn van machines om steeds belangrijkere beslissingen te nemen, zullen we herstelmechanismen nodig hebben als de resultaten onaanvaardbaar of moeilijk te begrijpen blijken te zijn.

Maar het is niet helemaal eenvoudig om AI-systemen hun beslissingen te laten verklaren. Een probleem is dat uitleg niet gratis is; ze vergen aanzienlijke middelen zowel bij de ontwikkeling van het AI-systeem als bij de manier waarop het in de praktijk wordt ondervraagd.

Een andere zorg is dat verklaringen handelsgeheimen kunnen onthullen door ontwikkelaars te dwingen de innerlijke werking van het AI-systeem te publiceren. Bovendien is een voordeel van deze systemen dat ze complexe gegevens kunnen begrijpen op manieren die niet toegankelijk zijn voor mensen. Dus om hun uitleg begrijpelijk te maken voor mensen, kan een vermindering van de prestaties nodig zijn.

Uitlegsystemen moeten gescheiden zijn van AI-systemen, zegt het Harvard-team

Hoe kunnen we AI dan verantwoordelijk maken voor zijn beslissingen zonder innovatie te onderdrukken?

Vandaag krijgen we een soort antwoord dankzij het werk van Finale Doshi-Velez, Mason Kortz en anderen aan de Harvard University in Cambridge, Massachusetts. Deze mensen zijn computerwetenschappers, cognitieve wetenschappers en rechtsgeleerden die samen de juridische problemen hebben onderzocht die AI-systemen oproepen, belangrijke problemen hebben geïdentificeerd en mogelijke oplossingen hebben voorgesteld. Samen zijn we experts op het gebied van uitleg in de wet, op het creëren van AI-systemen en op de mogelijkheden en beperkingen van menselijk redeneren, zeggen ze.

Ze beginnen met het definiëren van uitleg. Als we het hebben over een verklaring voor een beslissing, bedoelen we meestal de redenen of rechtvaardigingen voor die bepaalde uitkomst, in plaats van een beschrijving van het besluitvormingsproces in het algemeen, zeggen ze.

Het onderscheid is belangrijk. Doshi-Velez en co wijzen erop dat het mogelijk is om uit te leggen hoe een AI-systeem beslissingen neemt in dezelfde zin als dat het mogelijk is om uit te leggen hoe zwaartekracht werkt of hoe je een cake bakt. Dit wordt gedaan door de regels op te stellen die het systeem volgt, zonder te verwijzen naar een specifiek vallend voorwerp of cake.

Dit is de angst van industriëlen die de werking van hun AI-systemen geheim willen houden om hun commerciële voordeel te beschermen.

Maar dit soort transparantie is in veel gevallen niet nodig. Om uit te leggen waarom een ​​voorwerp bijvoorbeeld bij een bedrijfsongeval is gevallen, is normaal gesproken geen uitleg over de zwaartekracht nodig. In plaats daarvan is er meestal uitleg nodig om vragen als deze te beantwoorden: Wat waren de belangrijkste factoren bij een beslissing? Zou het veranderen van een bepaalde factor de beslissing hebben veranderd? Waarom leidden twee gelijkaardige zaken tot verschillende beslissingen?

Het beantwoorden van deze vragen vereist niet per se een gedetailleerde uitleg van de werking van een AI-systeem.

Dus wanneer moet er uitleg worden gegeven? In wezen, wanneer het voordeel opweegt tegen de kosten. We vinden dat er drie voorwaarden zijn die situaties kenmerken waarin de samenleving meent dat een beslisser verplicht is - moreel, sociaal of juridisch - om een ​​verklaring te geven, zeggen Doshi-Velez en co.

Het team zegt dat de beslissing een impact moet hebben op een andere persoon dan de beslisser. Het moet waardevol zijn om te weten of de beslissing ten onrechte is genomen. En er moet een reden zijn om aan te nemen dat er in het besluitvormingsproces een fout is (of zal) zijn gemaakt.

Waarnemers zouden bijvoorbeeld kunnen vermoeden dat een beslissing werd beïnvloed door een irrelevante factor, zoals een chirurg die weigert een operatie uit te voeren vanwege de maanstand. Of ze kunnen een systeem wantrouwen als het in twee totaal verschillende omstandigheden dezelfde beslissing heeft genomen. In dat geval kunnen ze vermoeden dat er geen rekening is gehouden met een belangrijke factor. Een ander probleem doet zich voor bij beslissingen die de ene groep op oneerlijke wijze ten goede komen, zoals wanneer bedrijfsleiders beslissingen nemen die hen ten goede komen ten koste van hun aandeelhouders.

Met andere woorden, er moet een goede reden zijn om aan te nemen dat een besluit ongepast is voordat om uitleg wordt gevraagd. Maar er kunnen ook andere redenen zijn om uitleg te geven, zoals een poging om het vertrouwen bij de consument te vergroten.

Dus Doshi-Velez en co kijken naar concrete juridische situaties waarin uitleg gewenst is. Ze wijzen erop dat redelijke geesten van mening kunnen verschillen over de vraag of het moreel gerechtvaardigd of sociaal wenselijk is om een ​​verklaring te eisen. Wetten daarentegen zijn gecodificeerd, en hoewel je zou kunnen betogen of een wet correct is, weten we tenminste wat de wet is, zeggen ze.

Volgens de Amerikaanse wetgeving is uitleg vereist in een groot aantal verschillende situaties en in verschillende mate van detail. Er is bijvoorbeeld uitleg nodig in gevallen van risicoaansprakelijkheid, echtscheiding of discriminatie; voor administratieve besluiten; en voor rechters en jury's. Maar het detailniveau varieert enorm.

Dat alles heeft belangrijke implicaties voor AI-systemen. Doshi-Velez en co concluderen dat er juridisch haalbare verklaringen mogelijk zijn voor AI-systemen. Dit komt omdat de verklaring voor een beslissing los van een beschrijving van de innerlijke werking kan worden gemaakt. Bovendien zegt het team dat een uitlegsysteem moet worden onderscheiden van het AI-systeem.

Dat is een significant resultaat. Het betekent niet dat bevredigende verklaringen altijd gemakkelijk te genereren zijn. Hoe kunnen we bijvoorbeeld aantonen dat een beveiligingssysteem dat afbeeldingen van een gezicht als input gebruikt, niet discrimineert op basis van geslacht? Dat is alleen mogelijk met een alternatief gezicht dat in alle opzichten vergelijkbaar is, behalve voor het geslacht, zegt het team.

Maar verklaringen voor de beslissingen die AI-systemen nemen zijn over het algemeen mogelijk. En dat leidt het team tot een duidelijke conclusie. We bevelen aan dat AI-systemen voorlopig aan een vergelijkbare standaard van uitleg kunnen en moeten worden gehouden als mensen momenteel zijn, zeggen ze.

Maar ons gebruik en begrip van AI zal waarschijnlijk veranderen op manieren die we nog niet begrijpen (en misschien nooit zullen doen). Om die reden zal deze aanpak moeten worden herzien. In de toekomst willen we misschien een AI aan een andere standaard houden, zeggen Doshi-Velez en co.

Nogal!

Referentie: arxiv.org/abs/1711.01134 : Verantwoordelijkheid van AI volgens de wet: de rol van uitleg

zich verstoppen