Ethische keus autonome auto: wie rij je omver?
Naar aanleiding van het ongeval waarbij een zelfrijdend Uber-voertuig in Arizona een fietser dood reed (het was de eerste keer dat dit gebeurde) is wereldwijd de discussie losgebarsten over de ethiek van de zelfrijdende auto. Nicholas Evans, hoogleraar filosofie aan de Universiteit van Massachusetts-Lowell, bestudeert de voortgang van de ontwikkeling van de zelfrijdende auto en beantwoordt drie relevante vragen.
Had een menselijke bestuurder deze crash kunnen voorkomen?
"Een normale menselijke chauffeur die actief op de weg lette, had waarschijnlijk weinig moeite om Herzberg te ontwijken. Met de verlichting aan en een snelheid van ongeveer 55 km/uur op een donkere weg is het niet moeilijk om obstakels te zien en te ontwijken, zelfs als die op honderd meter afstand lopen.
Dit leidt tot een conclusie die veel mensen maken: een zelfrijdende auto heeft iemand gedood."
Zelfs als dit ongeval voorkomen had kunnen worden, betekent dit dat zelfsturende auto's onveiliger zijn dan auto's die door een mens worden bestuurd?
"In de VS is het aantal dodelijke verkeersslachtoffers – schrik niet – 32.000 per jaar, waaronder tussen vijf- en zesduizend voetgangers. Op elke 100 miljoen gereden kilometers sterven gemiddeld 1,18 mensen aan de gevolgen van een ongeval waarbij een bestuurder betrokken was. Uber-taxi's reden samen rond de 4,6 miljoen kilometer voordat de eerste dode viel. Dat zet Uber op basis van de naakte gegevens op achterstand. Maar deze vertaalslag valt zo niet te maken, daarvoor zijn veel meer data nodig. Maar het geeft wel de uitdaging waar ontwikkelaars van zelfrijdende auto's voor staan: deze moet minstens zo goed zijn (vertaald in: leiden tot minder ongevallen) als auto's die door mensen worden bestuurd." Hetgeen ons brengt bij de volgende vraag:
Hoeveel beter moeten zelfrijdende auto's zijn voordat ze door het grote publiek worden geaccepteerd?
"Zelfs als mensen het eens zouden kunnen worden over de vraag op welke vlakken zelfrijdende auto's veiliger zouden moeten zijn dan mensen, is nog niet gezegd dat de zelfsturende auto door iedereen wordt omarmd. Met nieuwe medicijnen moeten tests uitwijzen of het medicijn daadwerkelijk mensen beter maakt in plaats van dat er mensen ziek van worden. Dat moet met de zelfsturende auto ook. Testriten in allerlei omstandigheden zijn nodig om aan te tonen dat dit het geval is of niet."
Keuzes
"Los hiervan: bij dit soort ethische kwesties gaat het om keuzes die een auto maakt. Regelmatig wordt hiervoor het volgende voorbeeld van stal gehaald: er is een keus op de weg. Óf de auto kan de onoplettende oude man omverrijden óf een fietsende vrouw met een kind in het kinderzitje. Een andere hypothese die regelmatig voorkomt in deze discussie: óf de zelfrijdende auto rijdt in op een groep schoolkinderen óf de auto boort zich in een muur waarbij de vijf inzittenden om het leven komen. Van de zelfsturende auto wordt verwacht dat op basis van algoritmen de juiste keus wordt gemaakt."
Onderzoek
"Het is in dit verband interessant te weten welke keus mensen maken. In dit verband verscheen onlangs het onderzoek 'Frontiers in Behaverial Neuroscience'. Hierin moesten 105 bestuurders in een virtuele omgeving keuzes maken over situaties die voorkomen bij het rijden in een woonwijk.
Het blijkt dat bestuurders een mens meer waard vinden dan een dier en een dier is weer meer waard dan een dood object. Mannen worden eerder opgeofferd dan vrouwen en ouderen eerder dan jonge mensen. Bij dieren telt het leven van een hond zwaarder dan het leven van elk ander dier. De vraag is nu of je deze keuzes in een algoritme kunt en wilt inbouwen zodat de zelfrijdende auto een 'menselijke' afweging maakt. Deze discussie is nog lang niet afgerond."