'Wat maakt een autonome auto veilig?' is de hamvraag
Niet de vraag 'Wat maakt een chauffeur veilig?', maar de vraag 'Wat maakt een autonome auto veilig?' is opportuun in de aanloop naar de autonome auto. Dit schrijft specialist Shaun Helman op de website The Future of Transport. Een samenvatting.
In het dagelijks verkeer is het gedrag van de bestuurder meer bepalend voor de veiligheid dan zijn prestaties achter het stuur. De prestaties van de bestuurder beschrijven het vermogen om verschillende aspecten van de rijtaken goed uit te kunnen voeren. Bestuurdersgedrag beschrijft de manier waarop een bestuurder ervoor kiest om te rijden.
De belangrijkste oorzaken van verkeersongevallen zijn gerelateerd aan het gedrag van de bestuurder in plaats van aan zijn vaardigheden. Wanneer iemand zich bezighoudt met te hard rijden, afgeleid autorijden, rijden onder invloed of wanneer iemand kiest om zijn gordel niet om te doen, maakt iemand gedragskeuzes die de kans op ongelukken en verwondingen vergroten. En of je dan heel goed de auto kunt besturen, maakt niet uit.
Onderscheid
Zelfrijdende voertuigen moeten dus het onderscheid maken tussen prestaties en gedrag. De rechtvaardiging dat de samenleving baat heeft bij zelfrijdende voertuigen komt uit de veronderstelling dat zelfrijdende voertuigen veel van slechte rijgedragingen niet kennen. Zelfrijdende auto's drinken geen alcohol, worden niet afgeleid en hoeven niet sneller te rijden voor een adrenalinekick. Niet gehinderd door onvolmaakte 'menselijke' beslissingen, zullen geautomatiseerde voertuigen daarom in de aard veiliger zijn dan menselijke bestuurders.
Perfectioneren
Het aansturen van 'prestaties' staat centraal in de urgentie van het perfectioneren van zelfrijdende technologieën. Er komen sensoren op de markt die op basis van hun vermogen om objecten op een bepaalde locaties te detecteren en kunstmatige-intelligentiesystemen zullen, zo is de claim, kunnen anticiperen op het gedrag van andere weggebruikers. Het onderscheid tussen gedrag en prestaties is daarom relevant bij de verdere ontwikkeling van de autonome auto.
'Niet gehinderd door onvolmaakte 'menselijke' beslissingen, zijn geautomatiseerde voertuigen veiliger dan menselijke bestuurders'
Drie uitdagingen
In dit licht bezien zijn er drie belangrijke uitdagingen. Deze zijn:
- Verwacht gedrag. De zelfrijdende auto gedraagt zich niet zoals een andere weggebruiker verwacht, met als gevolg dat er een reactie kan volgen die niet logisch is.
- Systeemprestaties versus systeemveiligheid. Een eerste onderzoek naar de dodelijke botsing van de zelfrijdende auto van Uber met een voetganger (die een fiets duwde) in 2018 leert dat het systeem van de auto de aanwezigheid van de voetganger ongeveer 6 seconden voor het ongeluk had waargenomen (hoewel het wel een tijdje duurde voordat het systeem zich realiseerde wat het 'object' precies was). Het systeem bepaalde vervolgens dat 1,3 seconden voor de botsing een noodstop moest worden uitgevoerd, maar Uber had het automatisch remmen voor een noodstop uitgeschakeld.
Op het eerste gezicht lijkt dit een systeemuitval, maar toch is het meer het gevolg van een gedragsbeslissing. Het systeem moet met een zekere mate van onzekerheid werken en de samenleving zal moeten beslissen welke onzekerheidsniveaus aanvaardbaar zijn.
- God spelen. Er is het nodige geschreven over hoe zelfrijdende auto's een beslissing zullen nemen in het geval een botsing onvermijdelijk is. De keuzes die voertuigen kunnen maken, worden vaak ingekaderd rond het beroemde ethische 'trolley'-dilemma waarin mensen wordt gevraagd of ze zouden uitwijken om te vermijden dat zij vijf mensen vermoorden, als het betekent dat ze in plaats daarvan minder dan vijf personen zouden vermoorden. Het is relevante materie met vragen waarop de antwoorden nog niet zijn gegeven.