Het probleem met ethiek voor een zelfrijdende auto

Ik heb al eerder geschreven in deze nieuwsbrief over de morele dilemma’s waar je mee te maken krijgt bij het programmeren van een zelfrijdende auto. Zou jij de zelfrijdende auto in onderstaande situatie (zie afbeelding) tegen een muurtje laten rijden om het plotseling overstekende kind te redden waarmee je wel de inzittende ernstig hersenletsel laat oplopen?
zelfrijdende-auto-ethiek
“In bijna elk ethisch dilemma met zelfrijdende auto’s moet je kiezen tussen het aanrijden van de ene of de andere groep mensen. Of tussen het kind aanrijden of jezelf het ravijn in storten – er zijn telkens maar twee mogelijkheden. Echte verkeerssituaties daarentegen zijn vaak veel ingewikkelder. Hoe je in zo’n situatie handelt, hangt sterk van de situatie af. Neem de omgeving. Hoe ziet de weg eruit, hoeveel grip heb je? Hoe lang is die bocht eigenlijk? Welke verkeersregels gelden hier? Is er een vangrail? Hoe ziet de berm eruit? Om de auto heen zit dus een heel verkeerssysteem dat volledig wordt genegeerd als we het alleen maar over hypothetische dilemma’s hebben.”
Bovendien, stelt van der Veen, denken we vanuit de huidige situatie met de huidige technologische mogelijkheden. Maar zelfrijdende auto’s hebben wellicht heel andere capaciteiten, die we nu nog niet ten volle kunnen overzien, op basis waarvan ethische dilemma’s anders kunnen komen te liggen:
“Tegelijkertijd is er ook veel meer mogelijk dan zo’n dilemma doet vermoeden. De auto reageert sneller dan wij en kan misschien hard genoeg remmen om het kind te redden. De auto kan tegen de vangrail of tegen een rotswand schuren om sneller af te remmen. Misschien past de auto er nog nét langs of kan hij met twee wielen in de berm eromheen rijden. Zo zijn er tientallen mogelijke routes die wij in zo’n kort tijdsbestek niet kunnen overwegen, maar een zelfrijdende auto wel.”
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in