Het probleem met ethiek voor een zelfrijdende auto

Ik heb al eerder geschreven in deze nieuwsbrief over de morele dilemma’s waar je mee te maken krijgt bij het programmeren van een zelfrijdende auto. Zou jij de zelfrijdende auto in onderstaande situatie (zie afbeelding) tegen een muurtje laten rijden om het plotseling overstekende kind te redden waarmee je wel de inzittende ernstig hersenletsel laat oplopen?
zelfrijdende-auto-ethiek
“In bijna elk ethisch dilemma met zelfrijdende auto’s moet je kiezen tussen het aanrijden van de ene of de andere groep mensen. Of tussen het kind aanrijden of jezelf het ravijn in storten – er zijn telkens maar twee mogelijkheden. Echte verkeerssituaties daarentegen zijn vaak veel ingewikkelder. Hoe je in zo’n situatie handelt, hangt sterk van de situatie af. Neem de omgeving. Hoe ziet de weg eruit, hoeveel grip heb je? Hoe lang is die bocht eigenlijk? Welke verkeersregels gelden hier? Is er een vangrail? Hoe ziet de berm eruit? Om de auto heen zit dus een heel verkeerssysteem dat volledig wordt genegeerd als we het alleen maar over hypothetische dilemma’s hebben.”
Bovendien, stelt van der Veen, denken we vanuit de huidige situatie met de huidige technologische mogelijkheden. Maar zelfrijdende auto’s hebben wellicht heel andere capaciteiten, die we nu nog niet ten volle kunnen overzien, op basis waarvan ethische dilemma’s anders kunnen komen te liggen:
“Tegelijkertijd is er ook veel meer mogelijk dan zo’n dilemma doet vermoeden. De auto reageert sneller dan wij en kan misschien hard genoeg remmen om het kind te redden. De auto kan tegen de vangrail of tegen een rotswand schuren om sneller af te remmen. Misschien past de auto er nog nét langs of kan hij met twee wielen in de berm eromheen rijden. Zo zijn er tientallen mogelijke routes die wij in zo’n kort tijdsbestek niet kunnen overwegen, maar een zelfrijdende auto wel.”
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in

De volgende grote markt voor tech-industrie: ouderen

Ouderen, dat is de volgende grote markt van consumenten waar Silicon Valley zich op gaat richten, voorspelt Ben Schiller op de blog FastCoExist. Waar tech-entrepreneurs zich tot voor kort bijna exclusief richtten op jonge mensen, is nu helder dat er best wat geld te verdienen is aan de zorgbehoeftes van ouderen. En dus wordt er aandacht besteed aan zorgrobots, videochat die eenzaamheid kan verlichten, en smart homes die de oudjes wat in de gaten kunnen houden. In de blog staan meer spannende ideeën.
alice
Maar wat al die zorgtech voor ouderen met name op scherp stelt is de plek die ouderenzorg in onze samenleving heeft en krijgt:
[…] some of these ideas raise “deep questions” about how we care for old people—robot care particularly. Are these technologies designed to increase human contact or reduce it, to make care more humane, or just more “efficient” and let humans off the hook for caring for the older generation? The tracking capabilities of wearables and sensors for seniors can seen as both enabling and intrusive. Are they for the seniors, or the people tracking the seniors?
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in

Waarom ‘Pokémon Go als goed of fout’ bestempelen de echte vraag mist

Shannon Vallor, hoogleraar ethiek voor emerging technology, beschrijft in haar nieuwste boek ‘Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting’ (2016) dat het échte probleem bij snel opkomende tech is, dat ze niet zo makkelijk te beoordelen is als goed/fout.

goedfout

Emerging technology presenteert ons namelijk met 1. nieuwe problemen van collectieve moraliteit, 2. hebben evenveel of zelfs meer impact op toekomstige personen, groepen en systemen dan op de huidige stakeholders en 3. hebben consequenties die vanuit de huidige technologie en ontwikkeling uit het verleden niet te voorspellen zijn: waar de technologie zich naartoe ontwikkeld is nog mistig.

“But notice that it does not actually help things to reform our questions in action-terms such as, “Is tweeting wrong?” or “Is it wrong to develop a social robot?” The asymmetry is of a different nature. It is not even that one set of problems involves technology and another does not; after all, technology is heavily implicated in modern practices of abortion and capital punishment. The problem is that emerging technologies like social networking software, social robotics, global surveillance networks, and biomedical human enhancement are not yet sufficiently developed to be assignable to specific practices with clear consequences for definite stakeholders. They present open developmental possibilities for human culture as a whole, rather than fixed options from which to choose. The kind of deliberation they require, then, is entirely different from the kind of deliberation involved in the former set of problems.”

 

“Yet it remains the case that very often, the answers for which questions about emerging technology beg are simply not of the ‘yes/no’ or ‘right/wrong’ sort. Instead, they are questions of this sort: ‘How might interacting with social robots help, hurt, or change us?’; ‘What can tweeting do to, or for, our capacities to enjoy and benefit from information and discourse?’; ‘What would count as a ‘better,’ ‘enhanced’ human being?’”

Damon Young: We laten ons maar wat graag afleiden door technologie

Onze technologie – en dan bedoel ik met name onze smartphones – krijgen vaak de oneigenlijke rol van het zwarte schaap toebedeeld. We worden voortdurend afgeleid van ons werk door alle mailtjes die binnen stromen. Onze sociale relaties worden benadeeld doordat er tussendoor ook gewhatsappt moet worden. Ik verdoe een uur van m’n dag met te lachen om onnozele snapchatfilters in plaats van te werken aan deze blog. (Ja, dit is uit het leven gegrepen..). Maar is technologie nu écht de veroorzaker? Of is het een gewillige handlanger van iets anders?

Het is onze schuld: wij accepteren de invloed van tech op ons leven

De filosoof Damon Young legt in z’n boek ‘Afleiding’ (2008) de bal in elk geval weer bij ons neer: “We kunnen technologie niet de schuld geven van ons eigen vluchtgedrag, onze onoplettendheid of onze bereidheid valse troost te zoeken.[...] Als we ons willen bevrijden van de afleidingen van ons technologisch tijdperk, zijn we niet gebaat bij anti-technologisch extremisme, maar juist bij een ambitieuzere houding ten aanzien van onze werktuigen – één die onze onafhankelijkheid stimuleert in plaats van ondermijnt.”
smartphone distraction

Young haalt in z’n boek de filosoof Herbert Marcuse (1898 – 1979) aan die stelt dat we veel te naïef denken over technologie. Bij een nieuwe technologie, zo stelt Marcuse, hebben we altijd het beeld dat het ons vooruit helpt, ons het leven makkelijker maakt en ons meer kennis geeft. Maar een nieuwe technologie is altijd een dialoog, en één die vaak ook gepaard gaat met ‘geweld, agressie en destructie’. Wat Marcuse hiermee bedoelt is dat we de technologie die we gebruiken in ons opnemen, en deze ons eigen maken. We gaan resoneren volgens het ritme dat de technologie dicteert, spreken in het discours dat het ons oplegt en over onszelf denken in de beelden die het ons verschaft. Dit resulteert in een  ”denkwijze die immuun is voor enig andere dan de gevestigde werkelijkheid’[..] Elementaire vragen als ‘wat?’en ‘waarom?’ worden vervangen door een op praktisch nut gericht ‘hoe?’, compleet met oorzaak en effect en de bijbehorende ketens van noodzakelijkheid.”

Toegegeven, dat klinkt enigszins somber en tevens als bewijs van de zwarte schaap theorie. Maar Young maakt een duidelijk onderscheid in de invloed van technologie en de invloed die we toelaten. Volgens hem ligt het werkelijke gevaar in de bereidheid ons leven te laten beheersen door het wezen van technologie. “We buigen het hoofd voor mechanische noodzakelijkheid in plaats van onze eigen noodzakelijkheid te creëren. [...] Als we na het checken van een email een vreetbui krijgen, moeten we [red: ipv te mopperen over die slechte email] misschien eens nadenken over ons internetgedrag ”

Nieuw gevoel van eigenaarschap

Wat Young kortom betoogt is een gevoel van eigenaarschap en verantwoordelijkheid. Ik ben geen slachtoffer van de technologie die me omringt, ik ben een actor. Iemand die de dialoog kan aangaan en zelf z’n grenzen kan bepalen, evenals welke rol ik een technologie kan geven in m’n leven.

[...] Om de afleidingen van het technologische tijdperk het hoofd te bieden, is het zaak dat we ons eigen bestaan weer een nieuwe impuls geven. Ook al kunnen we ons niet van technologie bevrijden, we zijn wel in staat de grenzen ervan te bepalen, evenals die van onszelf. We kunnen ons overgeven aan Youtube, of we kunnen op zoek gaan naar momenten van kalme aandacht en bespiegeling. [..] In het belang van de normale, dagelijkse vrijheid moeten we zijn wat machines nooit zullen worden: onze eigen hoeder.”

 

Nicholas Carr: I want not a new world, I want tech to explore THIS world

Uit het laatste boek van tech-criticus Nicholas Carr ‘Utopia Is Creepy: And Other Provocations (2016): 

What we’ve always found hard to abide is that the world follows a script we didn’t write. We look to technology not only to manipulate nature but to possess it, to package it as a product that can be consumed by pressing a light switch or a gas pedal or a shutter button. We yearn to reprogram existence, and with the computer we have the best means yet. We would like to see this project as heroic, as a rebellion against the tyranny of an alien power. But it’s not that at all. It’s a project born of anxiety. Behind it lies a dread that the messy, atomic world will rebel against us. What Silicon Valley sells and we buy is not transcendence but withdrawal. The screen provides a refuge, a mediated world that is more predictable, more tractable, and above all safer than the recalcitrant world of things. We flock to the virtual because the real demands too much of us.

 

What I want from technology is not a new world. What I want from technology are tools for exploring and enjoying the world that is – the world that comes to us thick with ‘things counter, original, spare, strange’, as Gerard Manley Hopkins once described it.

Menselijke waarden inprogrammeren in A.I.: is dat mogelijk?

Veel apps leren van jouw gedrag. Simpel voorbeeld: in je email kun je een email als spam aanmerken, waardoor het algoritme leert wat jouw voorkeuren zijn en jou in het vervolg beter kan dienen.
Society in the loop
Is een dergelijke leercurve ook mogelijk op het niveau van onze maatschappij met bijvoorbeeld een algoritme dat bepaalt hoe de zelfrijdende auto’s in de stad rijden?
“We need to know what types of behaviors people expect from AI, and to enable policy-makers and the public to articulate these expectations (goals, ethics, norms, social contract) to machines. To close the loop, we also need new metrics and methods to evaluate AI behavior against quantifiable human values. In other words: We need to build new tools to enable society to program, debug, and monitor the algorithmic social contract between humans and governance algorithms. […] The Age of Enlightenment marked humanity’s transition towards the modern social contract. Narrowing the SITL gap may bring humanity closer to realizing a new, algorithmic social contract.
Maar, hoewel dit allemaal heel nobel klinkt, is het waard om even kritisch na te denken of dit wel mogelijk is. Wat is een samenleving? Wie maakt daar deel van uit? En wiens waarden worden dus meegenomen in de leercurve van de A.I.? 
Adam Elkus schrijft dat de leercurve van computers altijd samenvalt met de specifieke sociale en politieke context.
“A Japanese elder care personal robot, for example, is only able to act in a way acceptable to Japanese senior citizens because its programmers understand Japanese society. So talk of machines and human knowledge, values, and goals is frustratingly circular.
If only the problem were indeed just how to engineer a system to respect human values; that would make it very easy. The harder problem is the thorny question of which humans ought to have the social, political, and economic power to make A.I. obey their values, and no amount of data-driven algorithms is going to solve it.”
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in

Door onze tech werken we een 19de eeuwse fabriekswerkweek

Een mooie observatie in de Volkskrant van 31 augustus:
“Voor veel kenniswerkers is overwerken normaal. Er heeft een soort ‘binnenstebuiten-kering’ van de geschiedenis plaatsgevonden, schreef Jonathan Witteman eerder in de Volkskrant: goedbetaalde, hoogopgeleide bankiers en advocaten van de Zuidas maken vaak 80-urige werkweken – hoeveelheden die overeenkomen met de fabriekstijden van de 19de-eeuwse arbeiders. Enigszins vergelijkbare tijden gelden in sommige creatieve en academische sectoren (maar dan doorgaans met andere salarissen).
Wie kenniswerk doet, houdt zijn scherm makkelijk ’s avonds open, lassen of stofferen in de avond is minder vanzelfsprekend.”
2210-1 Prikklok in fabriek 1920
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in. 

Pokémon Go: Bring your own boundaries

Hoewel Pokémon Go inmiddels op z’n retour is, is het spel wel nog interessant om te bekijken vanuit de tech-ethiekhoek als voorbeeld van uiterst ‘persuasive technology’.
James Williams analyseert deze werking door Pokémon met traditionele spellen te vergelijken. Volgens hem verschilt Pokémon in één belangrijk opzicht: het heeft geen grenzen. Je kunt Pokémonnen waar je ook bent en wanneer je wilt. Sterker nog, je wordt zelfs beloond om buiten je routines en gebruikelijke routes te treden.
Pokemon Go driving
Dat betekent dat het aan ons is om te bepalen wanneer je stopt met spelen: ‘You have to Bring Your Own Boundaries’. En dat is lastig om twee redenen:
Ten eerste hebben spellen zoals Pokémon geen ander doel dan gewoon verschrikkelijk leuk te zijn om te spelen. Daarom, schrijft Williams, is het makkelijk voor ons om minder expliciet te zijn over de waarde die we verwachten dat dit spel toevoegt aan ons leven.
Ten tweede gebruiken digitale spellen zoals Pokémon allerlei trucjes om onze aandacht vast te houden: ‘random reward scheduling (als speler weet je niet precies welke handige drankjes of eitjes je krijgt als je aan een Poké-stop draait), the endowment effect (you value a Pokémon more when you think you ‘own’ it), the nostalgia effect (thinking about the past makes you more willing to pay money—so if you played Pokémon growing up, watch yourself when buying PokéCoins!), territoriality, social reinforcement, the fear of missing out’.

Waarom Instagram een rustige tech is en Facebook niet

Als je de principes van Calm Technology gaat toepassen op onze huidige technologie, dan zie je hoe tech over het algemeen niet is ontworpen op kalme, gefocuste aandacht. Kijk bijvoorbeeld maar eens even naar hoe je op je telefoon allerlei soorten inhoud in je notificaties bij elkaar aangeboden krijgt: een vergaarbak vol werkmails, appjes van vrienden, notificaties van Facebook-events, of dat mensen je Instagram-bericht liken etc. De toolbalk van je internetbrowser is net zo erg. Daar kun je tabjes aanmaken dat het een lieve lust is en je mail open laten staan, naast artikelen die je nog wil lezen, een site waarop je nog een aankoop wilt doen en je twitterpagina. En speaking of social media: kijk eens naar de laatste ontwikkeling op Facebook. Het is allang meer geworden dan een netwerk waar je contact onderhoudt met je vrienden. Hier lees je ook het laatste nieuws over Trumps hate-tweets.
I like instagram
Daarom kan Instagram een verademing zijn. Een social tech met een duidelijke focus: het posten van foto’s met esthetische of emotionele kwaliteiten en weinig meer. Hier vind je geen Trump terug, alleen a charming universe of you, your friends and no news’.
Instagram heeft maar weinig functies, je kunt een like of comment geven, maar bijvoorbeeld geen links plaatsen (ja ok, boven in je profielbeschrijving kun je wat priegelen, maar echt gebruiksvriendelijk is dat niet om op door te klikken). In het artikel ‘I like Instagram’ bewierookt Robinson Meyer Instagram om haar eenvoud. Het geeft hem rust, in tegenstelling tot bijvoorbeeld Facebook met zijn vele verschillende vormen van content (video, tekst, comments) en onophoudelijke alerts.
En sterker nog: Instagram blijkt niet alleen als app je gelukkig te maken, maar ook in de handeling van het fotograferen. In het artikel ’How Taking Photos Increases Enjoyment of Experiences’ beschrijft onderzoeker Kristin Diehl dat het maken van een foto kan leiden tot “heighten enjoyment of positive experiences, and does so because photo-taking increases engagement. While taking photos during an experience adds another activity, unlike traditional dual-task situations that divide attention, capturing experiences with photos actually focuses attention onto the experience, particularly on aspects of the experience worth capturing.”
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in