211service.com
Topveiligheidsfunctionaris vertrouwt autofabrikanten niet om ethiek te leren aan zelfrijdende auto's
De snelle vooruitgang op het gebied van autonoom rijden heeft geleid tot bezorgdheid dat toekomstige voertuigen ethische keuzes zullen moeten maken, bijvoorbeeld of ze moeten uitwijken om een ongeval te voorkomen als dit ernstige schade zou toebrengen aan mensen buiten het voertuig.
Christopher Hart, voorzitter van de National Transportation Safety Board, is een van hen. Hij vertelde MIT Technology Review dat federale regelgeving nodig zal zijn om de basismoraal van autonome voertuigen vast te stellen, evenals veiligheidsnormen voor hoe betrouwbaar ze moeten zijn.
Hart zei dat de National Highway Traffic Safety Administration (NHTSA) ontwerpers van zelfrijdende auto's waarschijnlijk zal verplichten om fail-safes in te bouwen voor kritieke componenten van hun voertuigen, vergelijkbaar met hoe vliegtuigfabrikanten dat doen.
Een prototype van een zelfrijdende auto van Mercedes-Benz.
De regering zal in het spel moeten komen en zeggen: 'Je moet me een kans van minder dan X laten zien dat het mislukt, of je moet me een faalbeveiliging laten zien die ervoor zorgt dat dit falen geen mensen zal doden,' zei Hart. .
Hart zei ook dat er regels zouden moeten zijn voor hoe ethische prerogatieven in software worden gecodeerd. Hij gaf het voorbeeld van een zelfrijdende auto die voor de keuze stond tussen een mogelijk dodelijke aanrijding met een uit de hand gelopen vrachtwagen of op het trottoir rijden en voetgangers raken. Dat is voor mij een reactie van de federale overheid om aan te pakken, zei Hart. Dat soort ethische keuzes zullen onvermijdelijk zijn.
Dat NHTSA de afgelopen acht maanden heeft geëvalueerd hoe het auto's zonder bestuurder zal reguleren en in de nabije toekomst richtlijnen zal vrijgeven. Het bureau heeft tot nu toe geen ethische zorgen over automatisch rijden besproken.
De regelgeving voor zelfrijdende auto's komt uit staten als Californië en is gericht op prototypes die worden getest door bedrijven als Alphabet en Uber. Californië vereist: dat er altijd een veiligheidschauffeur klaar staat om het over te nemen, en dat een bedrijfsdossier rapporteert met details over incidenten waarbij een mens moest ingrijpen.
Ryan Calo , een expert op het gebied van roboticarecht aan de Universiteit van Washington, betwijfelt of het mogelijk is om de tot dusverre theoretische ethische discussies te vertalen in praktische regels of systeemontwerpen. Hij denkt niet dat autonome auto's geavanceerd genoeg zijn om de verschillende factoren te begrijpen die een mens in een echte situatie zou hebben.
Calo gelooft dat het echte dilemma is of we bereid zijn voertuigen in te zetten die veel ongelukken zullen voorkomen, maar die ook af en toe dodelijke blunders maken die geen mens zou doen. Als hij tegelijkertijd een winkelwagentje en een kinderwagen tegenkomt, kan hij geen morele beslissing nemen dat boodschappen minder belangrijk zijn dan mensen, zegt Calo. Maar wat als het in totaal tienduizenden levens redt omdat het veiliger is dan mensen?
Patrick Lin , een professor filosofie aan de Cal Poly State University, San Luis Obispo, die ethiek en autonoom rijden heeft gestudeerd bij de non-profittak van Daimler-Benz, zegt dat het idee van auto's die ethische overwegingen maken niet zo snel van de hand moet worden gedaan. Vooruitgang op het gebied van sensoren, kunstmatige intelligentie en gezichtsherkenningssoftware zal er waarschijnlijk toe leiden dat auto's kunnen beslissen om het ene leven te redden en het andere op te offeren, zegt hij.
Het is beter als we proactief proberen het probleem te anticiperen en te beheersen voordat we er echt zijn, zegt Lin. Dit is het soort dingen dat zal leiden tot een rechtszaak die een bedrijf zou kunnen vernietigen of een enorme zwarte stempel op de industrie zou kunnen drukken.
Federale normen op het gebied van ethiek of andere veiligheidsaspecten kunnen ook enige transparantie brengen in de manier waarop auto's zonder bestuurder beslissingen nemen. Lin zegt dat autofabrikanten over het algemeen de interne werking van de software van hun voertuigen geheim willen houden voor hackers en concurrenten. Autofabrikanten zijn notoir geheimzinnig over hun programmering en hun denken over crashoptimalisatie, zegt hij.