We maken een fetish van onze bots…en daar gaat het mis

Ok, hold your horses, dit gaat niet een stukje worden over S&M-bots. Maar desondanks is het wel handig om dit toch te lezen. Voor de volgende keer als je tegen Siri op je telefoon praat, of bij een chatbot op het internet je gram haalt over een service die niet verleend is.
Je zult in de toekomst namelijk steeds vaker te doen hebben met bots – oftewel: een automatische assistent die autonoom een taak kan uitvoeren. En doordat deze steeds geavanceerder worden, zul je dat steeds minder door hebben. Zo hebben studenten op Georgia Tech een jaar lang nietsvermoedend tegen een chatbot gepraat die als de assistent van hun professor functioneerde.
Siri
Maar ook al is de techniek achter de bot niet verborgen – je weet dat Siri een bot is, je weet dat de automatische kassa in je supermarkt een bot is – dan nóg zul je er ongemerkt door worden beïnvloed.
Doordat bots namelijk steeds meer persoonlijke woorden gebruiken – zoals ‘Wat kan IK voor je doen?’ ‘Plaats je spullen in MIJN mand’, krijgen ze een soort persoonlijkheid. En daar begint het probleem. Hierdoor gaan wij ze namelijk fetischiseren, oftewel: gaan we een sociale relatie met ze aan die verder gaat dan een onmiddellijk functioneel gebruik. Dat is niet iets nieuws, dat doen we al jaren met onze spullen. Kleding is daar het beste voorbeeld van. De manier waarop je je kleedt vertegenwoordigt ook wie je bent, bij welke sociale groep je hoort, hoe je gezien wilt worden door anderen.
Het probleem is dat als we een dergelijke fetish-relatie ook met (ro)bots ontwikkelen, zo stelt Brett Scott in dit stuk, dat we daardoor niet meer zien welke functionele relatie ZIJ met ONS hebben. Bots zijn namelijk altijd door hun makers – veelal bedrijven – gebouwd voor een specifiek doel. Scott pleit daarom voor meer eerlijke bots, of in elk geval meer bewustzijn van ons in onze omgang met bots. Hoe vriendelijk bots ook lijken, denk eraan: If you’re talking to bots, you’re talking to their invisible bosses.
Dit bericht komt uit m’n wekelijkse nieuwsbrief ‘Curated Culture’ waar ik elke week de laatste berichten rondom ‘future affairs’ naar je opstuur: wat zijn dé technologiche ontwikkelingen die jouw toekomst gaan bepalen? Elke zaterdagochtend de nieuwsbrief ontvangen? Schrijf je hier in