211service.com
Volledig autonome auto's zijn onwaarschijnlijk, zegt Amerika's hoogste verkeersveiligheidsfunctionaris
Christopher Hart
Auto-ongelukken doden elk jaar meer dan 33.000 Amerikanen, meer dan moord of overdoses van voorgeschreven medicijnen. Bedrijven die werken aan zelfrijdende auto's, zoals Alphabet en Ford, zeggen dat hun technologie dat aantal kan verlagen door menselijke aansprakelijkheden zoals sms'en, dronkenschap en vermoeidheid weg te nemen. Maar Christopher Hart , voorzitter van de National Transportation Safety Board, zegt dat de ervaring van zijn bureau met het onderzoeken van ongevallen met automatische pilootsystemen die in treinen en vliegtuigen worden gebruikt, suggereert dat mensen niet volledig uit de controle kunnen worden verwijderd. Hij vertelde MIT Technology Review dat toekomstige auto's veel veiliger zullen zijn, maar dat sommigen nog steeds mensen als copiloot nodig zullen hebben. Wat volgt is een verkort transcript.
Hoe optimistisch bent u dat zelfrijdende auto's het dodental bij auto-ongelukken zullen verminderen?
Ik ben erg optimistisch. Al tientallen jaren zoeken we naar manieren om letsel bij een ongeval te beperken. We hebben veiligheidsgordels, we hebben airbags, we hebben robuustere [autocarrosserie]-structuren. Op dit moment hebben we de mogelijkheid om de crash helemaal te voorkomen. En dat gaat tienduizenden levens redden. Dat is het ideale eindpunt: geen enkele crash.
Autopilot-systemen kunnen ook nieuwe gevaren creëren. De NTSB heeft gezegd dat de overmatige afhankelijkheid van piloten in automatisering heeft crashes veroorzaakt . Maakt u zich zorgen dat dit fenomeen ook een probleem is voor auto's?
Het ideale scenario waar ik het over had, het redden van tienduizenden levens per jaar, gaat uit van volledige automatisering zonder enige menselijke tussenkomst. Ik ben er niet zeker van dat we dat zullen doen ooit dat punt bereiken. Ik zie het ideaal van volledige automatisering niet snel aankomen.
Sommige mensen houden gewoon van autorijden. Sommige mensen vertrouwen de automatisering niet, dus zullen ze willen rijden. [En] er is geen softwareontwerper ter wereld die ooit slim genoeg zal zijn om te anticiperen op alle mogelijke omstandigheden die deze software zal tegenkomen. De hond die de straat op rent, de persoon die de straat op rent, de fietser, de politieagent of de bouwvakker. Of de brug stort in bij een overstroming. Het is onmogelijk om een systeem te ontwerpen dat dit aankan.
De uitdaging is wanneer je niet zo volledige automatisering hebt, met nog steeds een aanzienlijke menselijke betrokkenheid - dat is wanneer de zelfgenoegzaamheid een probleem wordt. Dan wordt het gebrek aan vaardigheden het probleem. Onze uitdaging is dus: hoe gaan we om met wat waarschijnlijk een langetermijnscenario wordt van nog steeds enige menselijke betrokkenheid in dit grotendeels geautomatiseerde systeem?
Het recente overlijden van een bestuurder die de Autopilot-functie van Tesla gebruikt, kan een automatiseringsfout zijn. Waarom onderzoekt de NTSB die crash?
De meeste auto-ongevallen onderzoeken we niet. Wat we naar deze tafel brengen, is ervaring [met] scenario's voor het introduceren van automatisering in complexe, mensgerichte systemen, wat deze zeker is. We onderzoeken deze crash omdat we zien dat automatisering in auto's komt en we willen graag proberen dat proces te informeren met onze ervaring met andere soorten automatisering.
Zoals?
We hebben een ongeval met verhuizer op een luchthaven onderzocht. Hij kwam in aanrijding met een andere verhuizer. En uit ons onderzoek bleek dat het probleem een onderhoudsprobleem was. Zelfs als je de operator elimineert, heb je nog steeds menselijke fouten van de mensen die het hebben ontworpen, mensen die het hebben gebouwd, mensen die het onderhouden.
Sommige mensen zeggen dat zelfrijdende auto's ethische beslissingen moeten nemen, bijvoorbeeld om te beslissen wie ze schade berokkenen als een aanrijding onvermijdelijk is. Is dit een echt probleem?
Ik kan je een voorbeeld geven dat ik op verschillende plaatsen heb zien genoemd. Mijn geautomatiseerde auto wordt geconfronteerd met een vrachtwagen van 80.000 pond op mijn rijstrook. Nu moet de auto beslissen of hij tegen deze vrachtwagen aanrijdt en mij, de chauffeur, vermoordt, of dat hij het trottoir opgaat en 15 voetgangers doodt. Dat zou in het systeem moeten worden ingevoerd. Inzittenden beschermen of andere mensen beschermen? Dat is voor mij een reactie van de federale overheid om aan te pakken. Dat soort ethische keuzes zullen onvermijdelijk zijn.
Naast alleen ethische keuzes - wat als het systeem faalt? Gaat het systeem falen op een manier die [schade] aan het publiek, andere auto's, fietsers minimaliseert? De federale overheid zal hierbij betrokken worden.
Hoe zou dat proces eruit kunnen zien?
De Federal Aviation Administration heeft een schema waarbij als er iets minder dan één op een miljard gebeurt, je geen alternatief laadpad hoeft te hebben [een terugvalstructuur om het gewicht van het vliegtuig te dragen]. Meer waarschijnlijk dan dat en je hebt een fail-safe nodig. Tenzij je kunt aantonen dat het falen van de vleugelligger - de vleugel die loskomt - minder is dan één op een miljard, zal het waarschijnlijk gebeuren. Dan moet je een plan B hebben.
Datzelfde proces zal bij auto's moeten plaatsvinden. Ik denk dat de overheid in het spel zal moeten komen en zeggen: je moet me een kans van minder dan X laten zien, of je moet me een fail-safe tonen die ervoor zorgt dat deze mislukking geen mensen zal doden. Het stellen van de limiet is iets waarvan ik denk dat het in het domein van de federale overheid zal liggen, niet in de deelstaatregering. Ik wil geen 50 limieten.