Voel zelf welke moeilijke beslissingen een zelfrijdende auto maakt

Wat zou jij kiezen? De dood van één vrouw die wel braaf door groen voetgangerslicht loopt? Of zou jij de zelfrijdende auto met een oudere vrouw, een baby en drie volwassenen toch tegen de blokkade laten rijden waarmee zij het hoogstwaarschijnlijk niet zullen overleven? Kies je voor het volgen van de verkeersregels of het hoogste aantal overlevenden? En als de vrouw onze premier was, zou je beslissing dan veranderen?
MIT zelfrijdende auto
Ethiek vertaald in een algoritme leidt namelijk vaak tot onmogelijke keuzes. Maar wel keuzes die in de software van de zelfrijdende auto geprogrammeerd moeten worden. Dus de vraag is dan: op basis van welke waarden ga je de zelfrijdende auto programmeren?
Ik schreef een tijdje terug een stuk over de ethische waardensystemen die aan de zelfrijdende auto verbonden kunnen wordenIn het humanistische algoritme wordt bijvoorbeeld gemikt op een zo laag mogelijk aantal slachtoffers, waarbij een auto kan beslissen om de inzittenden op te offeren om anderen te sparen. In het beschermende algoritme kiest de auto er steeds voor de eigen inzittenden te beschermen, ook al gaat dat ten koste van meer mensenlevens in het andere voertuig (of zwakke weggebruikers). En in het op kosten gebaseerde algoritme wordt er berekend welke uitkomst de maatschappij het minst kost.
Simpel toch? Em, nee.
Want stel dat de kopers van een zelfrijdende auto de kans krijgen om zelf te kiezen voor een ethisch waardensysteem. Hoe word je dan berecht bij een dodelijk ongeval: voor doodslag? Of voor moord met voorbedachte rade?
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in. 

Move over social design, het is tijd voor ethisch design

Move over social design, het is tijd voor een nieuw soort sociaal: ethisch design. Van design met een hart, naar design met moraal. En dat is een belangrijke verschuiving. Want waar social design grote thema’s aansnijdt als vluchtingenproblematiek (hét hot topic op What Design Can Do dit jaar), klimaatproblemen of armoede die niet alleen veelal toch ver van je dagelijkse leefwereld afstaan, maar ook behoorlijk wat moed vereisen om je in zo’n groot thema vast te bijten, is ethisch design, het ontwerpen vanuit een duidelijke morele code, iets dat opeens iedereen aangaat. Designers hoeven niet meer de wereld te redden, maar wel te ontwerpen vanuit heldere normen en waarden.

beyond-new

Continue reading