Menselijke waarden inprogrammeren in A.I.: is dat mogelijk?

Veel apps leren van jouw gedrag. Simpel voorbeeld: in je email kun je een email als spam aanmerken, waardoor het algoritme leert wat jouw voorkeuren zijn en jou in het vervolg beter kan dienen.
Society in the loop
Is een dergelijke leercurve ook mogelijk op het niveau van onze maatschappij met bijvoorbeeld een algoritme dat bepaalt hoe de zelfrijdende auto’s in de stad rijden?
“We need to know what types of behaviors people expect from AI, and to enable policy-makers and the public to articulate these expectations (goals, ethics, norms, social contract) to machines. To close the loop, we also need new metrics and methods to evaluate AI behavior against quantifiable human values. In other words: We need to build new tools to enable society to program, debug, and monitor the algorithmic social contract between humans and governance algorithms. […] The Age of Enlightenment marked humanity’s transition towards the modern social contract. Narrowing the SITL gap may bring humanity closer to realizing a new, algorithmic social contract.
Maar, hoewel dit allemaal heel nobel klinkt, is het waard om even kritisch na te denken of dit wel mogelijk is. Wat is een samenleving? Wie maakt daar deel van uit? En wiens waarden worden dus meegenomen in de leercurve van de A.I.? 
Adam Elkus schrijft dat de leercurve van computers altijd samenvalt met de specifieke sociale en politieke context.
“A Japanese elder care personal robot, for example, is only able to act in a way acceptable to Japanese senior citizens because its programmers understand Japanese society. So talk of machines and human knowledge, values, and goals is frustratingly circular.
If only the problem were indeed just how to engineer a system to respect human values; that would make it very easy. The harder problem is the thorny question of which humans ought to have the social, political, and economic power to make A.I. obey their values, and no amount of data-driven algorithms is going to solve it.”
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in