211service.com
Fatale Tesla Autopilot-crash is een herinnering dat autonome auto's soms zullen verknoeien
Meer dan 30.000 mensen zijn gedood door auto's in de VS elk jaar, en mensen die werken aan autonoom rijdende technologie bij bedrijven zoals Google en Tesla zeggen dat elke technologie die dat cijfer aanzienlijk kan verminderen serieuze aandacht verdient.
Maar zelfs als geautomatiseerde auto's veel veiliger kunnen zijn dan conventionele, zullen ze nog steeds betrokken zijn bij ongevallen. Geen enkele software kan perfect zijn. En naarmate de zelfrijdende technologie volwassen wordt, zullen regelgevers en de samenleving als geheel moeten beslissen hoe veilig deze voertuigen moeten zijn. Er is inderdaad beweerd dat in sommige situaties autonome voertuigen moeten worden geprogrammeerd om actief te kiezen welke mensen schade moeten berokkenen.
Die netelige kwesties werden vandaag concreter met het nieuws dat Tesla wordt onderzocht door de Amerikaanse National Highway Traffic Safety Administration na een dodelijk ongeval waarbij de Autopilot-functie voor automatisch rijden van het bedrijf betrokken was , die voor sommige auto's van het bedrijf dingen kan doen als van rijstrook wisselen en de snelheid aanpassen tijdens het rijden op de snelweg.
De Model S-sedan van Tesla Motors.
In mei in Florida, een Tesla Model S sedan reed in op een trekker-oplegger die de weg overstak terwijl Autopilot de auto bestuurde. Noch de Autopilot-functie van Tesla, noch de bestuurder heeft de auto geremd. In een blogpost donderdag zei Tesla dat: Autopilot registreerde de witte kant van de trailer niet tegen de heldere lucht .
De Autopilot van Tesla kan de auto besturen, obstakels en rijstrookmarkeringen detecteren en zelfstandig remmen. Maar het is veel minder capabel dan een menselijke bestuurder en mist de verfijning en high-detail sensoren die worden gezien in meer volwassen autonome auto-projecten zoals die van Google.
Tesla is bekritiseerd vanwege het promoten van het gemak van Autopilot - een naam die suggereert dat er geen menselijke tussenkomst nodig is - terwijl het ook volhoudt dat bestuurders constant klaar moeten staan om de software over te nemen. De leider van Google's autonome auto-project, Chris Urmson, heeft gezegd dat de experimenten van zijn bedrijf hebben bewezen dat mensen daar niet op kunnen vertrouwen, omdat ze er snel op vertrouwen dat de auto weet wat hij doet. Toch heeft Tesla-CEO Elon Musk gezegd dat de gegevens van zijn bedrijf suggereren: Autopilot is twee keer zo veilig als menselijke bestuurders .
We weten nog niet precies wat er is gebeurd bij het dodelijke ongeval van May. De verklaring van Tesla benadrukt dat de bestuurder wist dat hij altijd in de gaten moest houden wat Autopilot aan het doen was. Maar als NHTSA vindt dat het ontwerp van Autopilot de schuld is, kan Tesla gedwongen worden een terugroepactie uit te voeren, of zou het kunnen denken dat het de functie moet verdoezelen. Dat kan zowel Tesla als het enthousiasme voor de technologie in het algemeen schaden.
Wat de uitkomst van het onderzoek van de NHTSA ook is, het incident is een gelegenheid om na te denken over de normen waaraan we autonoom rijdende software houden en de bedrijven die deze ontwerpen. Als het op grote schaal moet worden gebruikt, zullen we moeten accepteren dat het betrokken is bij ongelukken - sommige met dodelijke afloop, en andere veroorzaakt door zijn eigen tekortkomingen.
Menselijke chauffeurs leggen de lat laag: ongeveer 90 procent van de ongevallen wordt veroorzaakt door menselijke fouten, en domme fouten zoals autorijden tijdens het sms'en of dronken maken veel te veel slachtoffers. Het is gemakkelijk in te zien hoe machines dat kunnen verbeteren. Maar beslissen hoeveel beter ze moeten zijn, zal veel moeilijker zijn.