Voel zelf welke moeilijke beslissingen een zelfrijdende auto maakt

Wat zou jij kiezen? De dood van één vrouw die wel braaf door groen voetgangerslicht loopt? Of zou jij de zelfrijdende auto met een oudere vrouw, een baby en drie volwassenen toch tegen de blokkade laten rijden waarmee zij het hoogstwaarschijnlijk niet zullen overleven? Kies je voor het volgen van de verkeersregels of het hoogste aantal overlevenden? En als de vrouw onze premier was, zou je beslissing dan veranderen?
MIT zelfrijdende auto
Ethiek vertaald in een algoritme leidt namelijk vaak tot onmogelijke keuzes. Maar wel keuzes die in de software van de zelfrijdende auto geprogrammeerd moeten worden. Dus de vraag is dan: op basis van welke waarden ga je de zelfrijdende auto programmeren?
Ik schreef een tijdje terug een stuk over de ethische waardensystemen die aan de zelfrijdende auto verbonden kunnen wordenIn het humanistische algoritme wordt bijvoorbeeld gemikt op een zo laag mogelijk aantal slachtoffers, waarbij een auto kan beslissen om de inzittenden op te offeren om anderen te sparen. In het beschermende algoritme kiest de auto er steeds voor de eigen inzittenden te beschermen, ook al gaat dat ten koste van meer mensenlevens in het andere voertuig (of zwakke weggebruikers). En in het op kosten gebaseerde algoritme wordt er berekend welke uitkomst de maatschappij het minst kost.
Simpel toch? Em, nee.
Want stel dat de kopers van een zelfrijdende auto de kans krijgen om zelf te kiezen voor een ethisch waardensysteem. Hoe word je dan berecht bij een dodelijk ongeval: voor doodslag? Of voor moord met voorbedachte rade?
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in. 

Algoritmische wreedheid

Als facebookgebruiker kon je er niet omheen: de zogenaamde ‘Year in review’ die je niet alleen om je heen op de tijdlijn van je vrienden zag opploppen, maar waarvan je continue werd aangemoedigd om deze zelf ook te maken tot het punt dat Facebook zelfs maar zelf een ‘Year in review’ voor je creërde die je alleen nog op je tijdlijn zichtbaar hoefde te maken.

Ik besteedde er weinig aandacht aan – mijn ‘Year in review’ bevatte een of ander plaatje van mijn vakantie naar New York – tot ik dit stuk las. Eric Meyer had een verschrikkelijk jaar achter de rug – hij verloor zijn dochter – dat hij het liefst zo snel mogelijk wilde vergeten, maar werd door het Facebook algoritme er continue aan herinnert tot zelfs onderstaand plaatje verscheen met het gezicht van zijn overleden dochter:

Eric Meyer

Continue reading

De ethiek van een algoritme

Hoewel de zelfrijdende auto nog niet op de weg te vinden is, overspoelt deze al de media. Want de introductie van de zelfrijdende auto in een stedelijke omgeving stelt ons voor grote vraagstellen, niet alleen op technologisch vlak maar ook op maatschappelijk gebied. Kun je ethisch beslissingen programmeren? Voor Stadsleven ‘Hello/Goodbye: de auto’ schreef ik een blog over de ethiek van een algoritme.

vehicleswithcircleshighway-660

Continue reading