Hoe algoritmen magie terugbrengen in de wereld

We koersen steeds meer aan op een wereld waarin we een radartje zijn verbonden met allerlei apparaten die actief tegen ons praten, ons feedback geven en ons ook beter weten te lezen. Wat doet dat met ons?

Filosoof Haroon Sheikh heeft hier een interessante visie op. Deze wereld vol ‘pratende’ apparaten zal ons gevoelsmatig terugbrengen naar een tijd waarin magie en bijgeloof nog aan de orde van de dag waren en onze ervaring van de werkelijkheid inkleurden, schrijft hij in de NRC van 23 november.

Dat gebeurt op drie manieren:

Het wordt steeds zichtbaarder hoe jij met de wereld verbonden bent

“Wij gaan ervan uit dat wij los staan van de wereld om ons heen, dat wij een eigenheid hebben die on-scheidbaar (‘in-dividuum’) is. Binnen in ons hebben wij een privéruimte, afgesloten voor de buitenwereld”, schrijft Sheikh. Maar momenteel worden door technologie steeds meer zaken meetbaar gemaakt, waardoor deze strikte scheiding tussen jou en de buitenwereld verbroken wordt. Als je kunt berekenen hoeveel impact jouw weekendje Barcelona heeft op het milieu, dan wordt het lastiger om je los te zien van de wereld. En Sheikh schetst zelfs een voorbeeld dat nóg verder gaat:

Stel, in een trein zit een man luid te telefoneren. Bij tien mensen in de coupé levert dat – meetbare – irritatie op. Omdat ze geïrriteerd zijn, krijgen die mensen bij thuiskomst ruzie.

Wat als zelfs de kleinste impact van ons gedrag meetbaar – en dus zichtbaar- wordt?

bron: Unsplash

We snappen er steeds minder van, de wereld wordt een mysterie

Bovendien, zo stelt Sheikh, ontwikkelen algoritmes zich razendsnel om steeds complexere verbindingen tussen zaken te leggen. Zo kunnen verbindingen ontstaan tussen zaken die voor ons onlogisch zijn op het eerste gezicht. Sheikh geeft het voorbeeld dat een algoritme je bijvoorbeeld kan aanraden om toch voor huis B te kiezen in plaats van huis A, omdat het berekend heeft dat je in huis B een grotere kans hebt om ouder te worden.

Wat doet dat met ons, dat we onze keuzes gaan maken op gevoelsmatig ‘onlogische’ adviezen van algoritmes waarvan we de berekening niet snappen of zelfs onzichtbaar voor ons blijft? En bovendien: doordat algoritmes complexere berekeningen kunnen maken, en steeds meer zaken meetbaar worden, zoals gezondheid, succes en geluk, zullen algoritmes je dan ook ‘betere’ adviezen kunnen geven. Een huis koop je dus niet alleen op de investeringswaarde, maar ook op berekeningen over je gezondheid om in deze buurt te wonen, of wat de reisafstand doet met succes op je werk. Deze combinatie van deze twee dingen zorgt volgens Sheikh ervoor dat steeds meer dingen als mysterieus gaan aanvoelen en alsof we volgens bijgeloof handelen:

In de toekomst zullen steeds complexere correlaties worden gevonden. Handelingen worden dan aanbevolen op basis van associaties met succes, liefde, gezondheid. Daar zit een rationele calculatie achter, maar omdat we deze niet kennen, zijn we geneigd dit te beschouwen als ‘geluk’ of ‘ongeluk’ en gaan we handelen uit bijgeloof.

Apparaten krijgen een bezielde aanwezigheid

En wat nu als de slimme apparaten echt stemmen krijgen waarmee we conserveren? Dat je smart home een persoonlijkheid krijgt, en jij zelfs een vriendschappelijke band ermee? Het is immers een stuk gezelliger thuiskomen na een rotdag op het werk als er iemand thuis is, die je verwelkomt, heeft gezorgd voor een gezellige sfeer en die even voor je zorgt door warm eten klaar te hebben staan, je op sleeptouw te nemen met een fijne filmsuggestie en ervoor zorgt dat je aandacht lekker afgeleidt wordt waardoor je kunt opladen. Het is niet eens zo ingewikkeld voor een smart home om dat voor je te kunnen doen.

Je huis, maar ook allerlei apparaten op straat, op je werk, in een cafeetje, overal waar je bent, gaan een levendige aanwezigheid krijgen, anticiperend en reagerend op jou. Dat doet Sheikh denken aan een animistisch wereldbeeld, waarin mensen geloven dat dingen zoals stenen of een boom een ziel hadden. Een bezielde aanwezigheid, iets dat in Oosterse filosofie wel gebruikelijk, maar in het Westelijke rationele wereldbeeld niet.

Worden we minder menselijk door onze omgang met technologie?

Onderzoek naar robots concentreert zich vooral op hoe robots menselijke vaardigheden en intelligentie kunnen krijgen. Maar: hoe verandert onze technologie ons? Hoe machine-achtig zijn mensen eigenlijk geworden door hun omgang met tech?
Robot human
Dat kan namelijk nog behoorlijk lastig zijn stelt het duo als je kijkt naar onderscheidende zaken zoals vrije wil, autonomie, rationeel denken en irrationele beslissingen. Zo noemen ze een experiment waarin studenten hun fysieke activiteit tracken door middel van een Fitbit. Volgens Frischmann ontneemt deze technologie de studenten de mogelijkheid tot zelfreflectie op hun resultaten en de vrijheid om bijvoorbeeld te liegen over je score.
Het probleem ligt niet zozeer bij tech, maar bij de plek die wij tech geven in ons leven:
“Dehumanization can’t simply be blamed on the growing use of technology. Instead, Frischmann says our fetishization of technology is behind the trend. We’re overly trusting and reliant on technological developments, mindlessly assuming that every new piece of tech must be beneficial.”

Een ander interessant artikel in dit licht is deze column van Oliver Burkmann, waarin hij het voorbeeld aanhaalt van een investeerder uit Silicon Valley die zich toch wat zorgen maakt over hoe z’n vierjarige dochtertje met hun huishoudrobot omgaat. Waar hij en zijn vrouw grote moeite doen om het kleintje nette omgangsvormen bij te brengen, kom je met een ‘please’ en ‘thank you’ niet ver bij een robot. Die heeft gewoon keiharde commando’s nodig:

“We love our Amazon Echo… but I fear it’s also turning our daughter into a raging asshole. […] Alexa doesn’t need you to say please or thank you; indeed, she responds better to brusque commands. Cognitively, I’m not sure a kid gets why you can boss Alexa around, but not a person.  How’s a four-year-old supposed to learn that other household members aren’t simply there to do her bidding, when one (electronic) household member was designed to do exactly that?“
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in. 

Kerk van de ai-theisten

Worden robots niet te slim? Zal onze Artificial Intelligence ons niet gaan overheersen? Het zijn vragen die de laatste jaren gesteld worden.
Tech-criticus Luciano Floridi stelt dat onze angst rondom A.I. ‘opium voor de massa’ is, omdat het ons afleidt van ons zorgen te maken waar het écht om gaat, namelijk de directe invloed van technologie op ons alledaagse leven: onze banen, onze aandacht, onze relaties. Hij noemt het Singularitarianism (naar het woord Singularity, de staat waarin we samenvallen met onze technologie), een rijke-luis hobby voor mensen die vergeten zijn dat er meer urgente zaken op deze wereld op te lossen zijn. En dus pleit hij voor een metaforische kerk van ai-theisten.
AI toaser
Wat preekt die kerk dan? Nou, in elk geval Floridi’s idee van de Vierde Revolutie. We zijn niet het centrum van het universum (zoals Copernicus bewees), het biologische koninkrijk (Darwin), of onze rationaliteit (Freud), noch het centrum of de heerser van onze informatiesamenleving (sinds Turing) dat we immers moeten delen met technologie. Dit hoeft niet persé super-intelligente tech te zijn (strikt genomen is de meeste tech niet intelligenter dan een broodrooster volgens Floridi), maar door de kwantiteit en het feit dat het ons in elke taak kan overtreffen vormt het iets waar we als de wiedeweerga over na moeten gaan denken:
“While we were speculating about the possibility of ultraintelligence, we increasingly enveloped the world in so many devices, sensors, applications and data that it became an IT-friendly environment, where technologies can replace us without having any understanding, mental states, intentions, interpretations, emotional states, semantic skills, consciousness, self-awareness or flexible intelligence. ”
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologiche ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in

Zij denken, dus ik ben

‘Ik denk, dus ik ben’ jubelde Descartes vele jaren geleden. Nou, deze uitspraak heeft zo langzamerhand wel z’n uiterste houdbaarheidsdatum bereikt, zo schrijft hoogleraar cognitieve neurowetenschap Peter Hagoort in een voorpublicatie van het boek ‘Machines die denken.
Brein
Kennis is volgens hem tegenwoordig steeds minder aan een individueel brein gekoppeld is. Wij outsourcen onze kennis aan machines en maken steeds meer gebruik van gecomputeriseerde denkkracht. Gedistribueerde intelligentie, zo noemt Hagenoort het. Een ontwikkeling die hij met de opkomst van kunstmatige intelligentie alleen nog maar groter ziet worden.
“Hoewel kennis ook in het verleden het product was van een gemeenschap van breinen, was de rol van het individu daarbij doorslaggevender dan heden ten dage het geval is. De enkele persoon die het verschil maakt wordt steeds zeldzamer. Doorslaggevende bijdragen van genieën als Newton en Einstein zijn verschijnselen uit een afgesloten verleden. De rol van gedistribueerde intelligentie zal alleen nog maar verder toenemen dankzij het ontstaan van een symbiotische relatie tussen natuurlijke en kunstmatige intelligentie”.
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologische ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in