211service.com
Door algoritmen een gevoel van onzekerheid te geven, kunnen ze ethischer worden
Algoritmen zijn het beste in het nastreven van een enkel wiskundig doel, maar mensen willen vaak meerdere onverenigbare dingen. 18 januari 2019
mevrouw Tech
Algoritmen worden steeds vaker gebruikt om ethische beslissingen te nemen. Misschien wel het beste voorbeeld hiervan is een hightech kijk op het ethische dilemma dat bekend staat als het trolleyprobleem: als een zelfrijdende auto zichzelf er niet van kan weerhouden een van de twee voetgangers te doden, hoe moet de besturingssoftware van de auto dan kiezen wie er leeft en wie sterft ?
In werkelijkheid is dit raadsel geen erg realistische weergave van hoe zelfrijdende auto's zich gedragen. Maar veel andere systemen die er al zijn of niet ver weg zullen allerlei echte ethische afwegingen moeten maken. Beoordelingsinstrumenten die momenteel in het strafrechtelijk systeem worden gebruikt, moeten rekening houden met risico's voor de samenleving tegen schade aan individuele verdachten; autonome wapens zullen de levens van soldaten moeten afwegen tegen die van burgers.
Het probleem is dat algoritmen nooit zijn ontworpen om met zulke moeilijke keuzes om te gaan. Ze zijn gebouwd om een enkel wiskundig doel na te streven, zoals het maximaliseren van het aantal geredde soldatenlevens of het minimaliseren van het aantal burgerdoden. Wanneer je begint te werken met meerdere, vaak concurrerende doelen of probeert rekening te houden met immateriële zaken zoals vrijheid en welzijn, bestaat er niet altijd een bevredigende wiskundige oplossing.
Wij als mensen willen meerdere onverenigbare dingen, zegt Peter Eckersley, de onderzoeksdirecteur van het Partnership on AI, die onlangs een papier die deze kwestie onderzoekt. Er zijn veel situaties met een hoge inzet waarin het eigenlijk ongepast is - misschien zelfs gevaarlijk - om te programmeren in een enkele objectieve functie die probeert uw ethiek te beschrijven.
Deze oplossingsloze dilemma's zijn niet specifiek voor algoritmen. Ethici hebben ze decennialang bestudeerd en noemen ze onmogelijkheidsstellingen. Dus toen Eckersley voor het eerst hun toepassingen voor kunstmatige intelligentie herkende, leende hij een idee rechtstreeks uit de ethiek om een oplossing voor te stellen: wat als we onzekerheid in onze algoritmen zouden inbouwen?
We nemen als mensen vaak op nogal onzekere manieren beslissingen, zegt hij. Ons gedrag als morele wezens is vol onzekerheid. Maar wanneer we dat ethische gedrag proberen te nemen en toe te passen in AI, wordt het meestal geconcretiseerd en nauwkeuriger gemaakt. In plaats daarvan, stelt Eckersley, waarom zouden we onze algoritmen niet expliciet zo ontwerpen dat ze onzeker zijn over wat we moeten doen?
Eckersley brengt twee mogelijke technieken naar voren om dit idee wiskundig uit te drukken. Hij begint met het uitgangspunt dat algoritmen doorgaans zijn geprogrammeerd met duidelijke regels over menselijke voorkeuren. We zouden het bijvoorbeeld moeten vertellen dat we zeker de voorkeur geven aan vriendelijke soldaten boven vriendelijke burgers, en vriendelijke burgers boven vijandige soldaten - zelfs als we er niet echt zeker van waren of niet dachten dat dat altijd het geval zou moeten zijn. Het ontwerp van het algoritme laat weinig ruimte voor onzekerheid.
De eerste techniek, die bekend staat als gedeeltelijke ordening, begint een klein beetje onzekerheid te introduceren. Je zou het algoritme kunnen programmeren om vriendelijke soldaten te verkiezen boven vijandige soldaten en vriendelijke burgers boven vijandige soldaten, maar je zou geen voorkeur aangeven tussen vriendelijke soldaten en vriendelijke burgers.
Bij de tweede techniek, die bekend staat als onzekere volgorde, heb je verschillende lijsten met absolute voorkeuren, maar aan elke is een waarschijnlijkheid verbonden. Driekwart van de tijd geeft u misschien de voorkeur aan vriendelijke soldaten boven vriendelijke burgers boven vijandige soldaten. Een kwart van de tijd geeft u misschien de voorkeur aan vriendelijke burgers boven vriendelijke soldaten boven vijandige soldaten.
Het algoritme kan deze onzekerheid aan door meerdere oplossingen te berekenen en mensen vervolgens een menu met opties te geven met de bijbehorende afwegingen, zegt Eckersley. Stel dat het AI-systeem bedoeld was om medische beslissingen te nemen. In plaats van de ene behandeling aan te bevelen boven de andere, zou het drie mogelijke opties kunnen bieden: een voor het maximaliseren van de levensduur van de patiënt, een andere voor het minimaliseren van het lijden van de patiënt en een derde voor het minimaliseren van de kosten. Laat het systeem expliciet onzeker zijn, zegt hij, en geef het dilemma terug aan de mensen.
Carla Gomes, hoogleraar computerwetenschappen aan de Cornell University, heeft in haar werk met soortgelijke technieken geëxperimenteerd. In één project heeft ze een geautomatiseerd systeem ontwikkeld om de impact van nieuwe hydro-elektrische damprojecten in het stroomgebied van de Amazone te evalueren. De dammen zorgen voor een bron van schone energie. Maar ze veranderen ook ingrijpende delen van rivieren en verstoren de ecosystemen van wilde dieren.
Dit is een heel ander scenario dan autonome auto's of andere [veelvoorkomende ethische dilemma's], maar het is een andere setting waar deze problemen reëel zijn, zegt ze. Er zijn twee tegenstrijdige doelstellingen, dus wat moet u doen?
Het algemene probleem is zeer complex, voegt ze eraan toe. Er zal veel onderzoek nodig zijn om alle problemen aan te pakken, maar de aanpak van Peter zet een belangrijke stap in de goede richting.
Het is een probleem dat alleen maar zal groeien naarmate we afhankelijker worden van algoritmische systemen. Meer en meer vereisen gecompliceerde systemen dat AI de leiding heeft, zegt Roman V. Yampolskiy, universitair hoofddocent computerwetenschappen aan de Universiteit van Louisville. Geen enkele persoon kan de complexiteit begrijpen van, je weet wel, de hele aandelenmarkt of militaire reactiesystemen. We hebben dus geen andere keuze dan een deel van onze controle aan machines af te staan.
Een eerdere versie van dit verhaal verscheen oorspronkelijk in onze AI-nieuwsbrief The Algorithm. Schrijf je hier gratis in om het direct in je inbox te krijgen.