Het probleem met ethiek voor een zelfrijdende auto

Ik heb al eerder geschreven in deze nieuwsbrief over de morele dilemma’s waar je mee te maken krijgt bij het programmeren van een zelfrijdende auto. Zou jij de zelfrijdende auto in onderstaande situatie (zie afbeelding) tegen een muurtje laten rijden om het plotseling overstekende kind te redden waarmee je wel de inzittende ernstig hersenletsel laat oplopen?
zelfrijdende-auto-ethiek
“In bijna elk ethisch dilemma met zelfrijdende auto’s moet je kiezen tussen het aanrijden van de ene of de andere groep mensen. Of tussen het kind aanrijden of jezelf het ravijn in storten – er zijn telkens maar twee mogelijkheden. Echte verkeerssituaties daarentegen zijn vaak veel ingewikkelder. Hoe je in zo’n situatie handelt, hangt sterk van de situatie af. Neem de omgeving. Hoe ziet de weg eruit, hoeveel grip heb je? Hoe lang is die bocht eigenlijk? Welke verkeersregels gelden hier? Is er een vangrail? Hoe ziet de berm eruit? Om de auto heen zit dus een heel verkeerssysteem dat volledig wordt genegeerd als we het alleen maar over hypothetische dilemma’s hebben.”
Bovendien, stelt van der Veen, denken we vanuit de huidige situatie met de huidige technologische mogelijkheden. Maar zelfrijdende auto’s hebben wellicht heel andere capaciteiten, die we nu nog niet ten volle kunnen overzien, op basis waarvan ethische dilemma’s anders kunnen komen te liggen:
“Tegelijkertijd is er ook veel meer mogelijk dan zo’n dilemma doet vermoeden. De auto reageert sneller dan wij en kan misschien hard genoeg remmen om het kind te redden. De auto kan tegen de vangrail of tegen een rotswand schuren om sneller af te remmen. Misschien past de auto er nog nét langs of kan hij met twee wielen in de berm eromheen rijden. Zo zijn er tientallen mogelijke routes die wij in zo’n kort tijdsbestek niet kunnen overwegen, maar een zelfrijdende auto wel.”
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in

Voel zelf welke moeilijke beslissingen een zelfrijdende auto maakt

Wat zou jij kiezen? De dood van één vrouw die wel braaf door groen voetgangerslicht loopt? Of zou jij de zelfrijdende auto met een oudere vrouw, een baby en drie volwassenen toch tegen de blokkade laten rijden waarmee zij het hoogstwaarschijnlijk niet zullen overleven? Kies je voor het volgen van de verkeersregels of het hoogste aantal overlevenden? En als de vrouw onze premier was, zou je beslissing dan veranderen?
MIT zelfrijdende auto
Ethiek vertaald in een algoritme leidt namelijk vaak tot onmogelijke keuzes. Maar wel keuzes die in de software van de zelfrijdende auto geprogrammeerd moeten worden. Dus de vraag is dan: op basis van welke waarden ga je de zelfrijdende auto programmeren?
Ik schreef een tijdje terug een stuk over de ethische waardensystemen die aan de zelfrijdende auto verbonden kunnen wordenIn het humanistische algoritme wordt bijvoorbeeld gemikt op een zo laag mogelijk aantal slachtoffers, waarbij een auto kan beslissen om de inzittenden op te offeren om anderen te sparen. In het beschermende algoritme kiest de auto er steeds voor de eigen inzittenden te beschermen, ook al gaat dat ten koste van meer mensenlevens in het andere voertuig (of zwakke weggebruikers). En in het op kosten gebaseerde algoritme wordt er berekend welke uitkomst de maatschappij het minst kost.
Simpel toch? Em, nee.
Want stel dat de kopers van een zelfrijdende auto de kans krijgen om zelf te kiezen voor een ethisch waardensysteem. Hoe word je dan berecht bij een dodelijk ongeval: voor doodslag? Of voor moord met voorbedachte rade?
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in. 

Elon Musk snapt niets van hoe steden werken

Vorige week was er grote consternatie toen Elon Musk – opperbaas van autofabrikant Tesla – z’n masterplan deelde voor z’n bedrijf. Waarom? Het heeft grote invloed op hoe infrastructuur werkt.
Tesla bus
Dit is kort door de bocht z’n plan: Tesla wil elektrische vrachtwagens en bussen maken, terwijl Tesla-eigenaren hun zelfrijdende auto in de toekomst moeten kunnen verhuren als taxi. Op de plekken waar nu ingangen zitten in de bus, komen zitplaatsen en om het verkeer niet op te houden, wordt ervoor gezorgd dat de bus net zo snel kan optrekken en remmen als gewone voertuigen. Verder zullen er geen bushaltes meer zijn, maar worden passagiers op hun eindbestemming afgezet. Allemaal veel kosten-effectiever, milieubewuster en veiliger dan wanneer iedereen zelf aan het stuur zit, vindt Musk.
Jarrett Walker van de blog Human Transit is minder enthousiast. Musk maakt de grote fout dat hij denkt dat je alle problemen kunt oplossen met tech. Echter, zo schrijft Walker (ironische naam eigenlijk, vind je niet?), infrastructuur is een ruimtelijk, geen technologisch probleem:
“When we are talking about space, we are talking about geometry, not engineering, and technology never changes geometry. You must solve a problem spatially before you have really solved it.”
“Tech marketing is all about appealing to elite personal tastes. It runs on the assumption that whatever we sell to the wealthy today we can sell to the masses tomorrow. But some things stop working when everybody buys them. Cars in dense cities, for example, are not a problem when only the top 20% are using them; it’s mass adoption of cars that makes them ruinous to a dense city and to the liberty of its citizens.”
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in

Als Thelma en Louise in een zelfrijdende auto hadden gezeten

“Seated in their car on the rim of the Grand Canyon, surrounded by police, with their only choices prison or freedom by annihilation, Thelma turns to Louise in the seat next to her and says, “Just go.”
“I can’t go,” says Louise.
“What do you mean, you can’t go?”
“This thing doesn’t have a gas pedal. Or a steering wheel.”
“Oh, for God’s sake. What if you type on the screen, ‘Drive fast toward the edge, we want to go out in a blaze of glory?’ ”
“I tried that. I got a 404 error message.”
“I told you not to steal a driverless car, Louise. Okay, fine. Let’s just go to prison. I hear they’re showing the 20th season of Orange is the New Black.”
Thelma Louise
Als we het hebben over zelfrijdende auto’s, dan praten we over efficiëntie, veiligheid, kostenbesparing, milieu, etc. Maar is dát werkelijk waar autorijden om gaat? Elizabeth Renzetti schrijft dat we één belangrijk ding vergeten, namelijk: het rijden zelf. Hoe geweldig veel plezier je kunt halen uit die ‘dans met de machine’.
En je begint nog meer te verlangen naar dat nostalgische plaatje van rijden in een Ford Thunderbird in een verlaten woestijnlandschap als je de blog ’15 driver behaviours in world of autonomous mobility’ leest.
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in. 

Waarom zelfrijdende auto’s geen oplossing zijn voor Saudi vrouwen

Voor wie het niet wist: het is in Saudi-Arabië verboden voor vrouwen om te achter het stuur van een auto te kruipen. En dat heeft grote gevolgen. Niet alleen de symbolische kracht – de vrouw heeft minder rechten dan de man – maar ook sociaal-economisch: vrouwen zijn 5 keer vaker werkeloos dan mannen en als ze wel een baan hebben dan gaat een groot gedeelte van hun inkomen naar het inhuren van een chauffeur.
Saudi Arabia women car
Nu zou je kunnen denken dat de zelfrijdende auto – waar je technisch gezien immers niet meer aan het stuur zit – hierin een omkeer kan betekenen.
Maar Sarah Aziza toont aan dat dit weer een te simplistische redenering is waarin te veel wordt gekeken naar de technologie in plaats van de sociale systemen die diep in de samenleving verankerd liggen. De Saudische regels over vrouwen achter het stuur zijn namelijk ontstaan door een zeer strikte interpretatie van het Islamitische principe van ‘voogdij’ (ofwel in de betere engelse vertaling ‘guardianship’), waarin vrouwen beschermd moeten worden door de mannen in hun leven en zo onder continue supervisie staan. Zolang dit geloofssysteem bestaat zal tech nooit de positie van vrouwen in de Saudi-Arabische samenleving verbeteren.
“While it’s easy to conflate technological advances with modernity, Saudi Arabia has shown an incredible knack for mitigating progress to maintain existing social structures. A case in point: In 2012, as cellular coverage exploded in the kingdom, the Saudi government rolled out a text-messaging system that alerted Saudi men whenever females under their care left the country. It is likewise easy to imagine how Saudi authorities could adapt driverless technology to suit their commitment to “protect” and surveil women, from video chaperone systems to GPS tracking.
Hoewel Azizi dus de echte oplossing niet in een directe invloed van tech ziet, gelooft ze wel in een indirecte invloed: social media kunnen wel de golf aan activisme versterken en zo de onderlegger zijn van een sociale omwenteling.
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologiche ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in

Gebruik robots om na te denken over de stad die je écht wilt

We zijn ’t helemaal verkeerd aan het doen volgens Dan Hill. We moeten ons niet concentreren op robots, wat ze wel/niet kunnen, of ze slimmer dan ons worden en onze banen inpikken. Robots vormen gewoon slimme infrastructuur waarop we ons leven bouwen, niet ‘persoontjes’ waartoe we ons moeten verhouden.

Wall-E

Dus, zo stelt hij, is het veel productiever om de ontwikkeling van robots, zoals de zelfrijdende auto, te gebruiken om vragen te stellen over in welke soort stad we willen leven. Als we robots zien als vervanging van degenen die ‘dirty, dangerous and dull’ banen hebben, wat zegt dat dan over onze waardering van deze mensen die onze steden wel aan de gang houden? Willen we zelfrijdende auto’s, of liever zelfrijdende bussen? En hoe zit dat dan met ruimte voor voetgangers en spelende kinderen op straat?

Gebruik de vragen die nieuwe technologie oproept kortom niet om na te denken over deze technologie, maar over de kwaliteit van steden die we willen. En dan vogelen we daarna wel uit hoe we er komen, mét of zonder slimme tech.

Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in. 

Je toekomstige hotel? De zelfrijdende auto

Ahh, heerlijk…lekker je schoenen uitschoppen, achteroverleunen en een lekker tukkie doen. Je hebt immers toch nog een paar uur tot je volgende meeting. Die op 350 km afstand plaatsvindt…Jawel, dames en heren, Sven Schuwirth, hoofd strategie bij Audi, voorspelt dat je dat tukkie in de toekomst dus lekker gaat doen terwijl je zelfrijdende auto je naar je plaats van bestemming brengt. En daarmee concurrentie gaat vormen voor hotels en vliegmaatschappijen die eerst geboekt werden voor één overnachting of korte afstand vluchten. In z’n interview komt Schuwirth trouwens nog tot een wrange observatie: “We do not believe that the potential of autonomous driving is just about security and comfort. Cars are the last place on the planet, besides maybe your room in your flat, where you can be on your own.” ….Oi…

Hotel

Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in. 

 

De ethiek van een algoritme

Hoewel de zelfrijdende auto nog niet op de weg te vinden is, overspoelt deze al de media. Want de introductie van de zelfrijdende auto in een stedelijke omgeving stelt ons voor grote vraagstellen, niet alleen op technologisch vlak maar ook op maatschappelijk gebied. Kun je ethisch beslissingen programmeren? Voor Stadsleven ‘Hello/Goodbye: de auto’ schreef ik een blog over de ethiek van een algoritme.

vehicleswithcircleshighway-660

Continue reading