De inzet van data en nieuwe technologie levert de maatschappij volop kansen op, maar ook de nodige risico’s. Een groot risico vormt ongewenste beïnvloeding met behulp van overtuigingstechnologie, ofwel persuasive technology. Tijd voor verheldering van de juridische kaders, bepleit Linda Kool van Rathenau Instituut. ‘Digitalisering is geen gadget, maar heeft een fundamentele impact op ons menszijn.’
Het is bepaald niet van de laatste tijd dat technologie wordt ingezet om het gedrag van mensen te beïnvloeden, positief dan wel negatief. Zulke beïnvloeding is van alle tijden, met name in de marketing. Denk maar aan de subliminale sluikreclame voor frisdrank die eind jaren vijftig op Amerikaanse bioscoopschermen werd getoond, met als doel de toeschouwer onbewust dorstig te maken.
Overtuigingstechnologie
Tegenwoordig noemt men de combinatie van psychologie en ict-systemen persuasive technology, ofwel overtuigingstechnologie. Het vormt een toenemende uitdaging voor de maatschappij. Technologie is zodanig verweven met het dagelijkse leven, dat de mate van beïnvloeding groter is dan ooit. Stappentellers die u tot beweging aansporen, apps die uw gedrag vergelijken met andere gebruikers, sociale media die je aansporen tot interactie. Het is niet allemaal slecht, maar moet wel op een verantwoorde manier gebeuren.
Nieuwe technologie werkt onrust, afleiding en zelfs verslaving in de hand. Wat doet een simpele like eigenlijk? We staan er als maatschappij onvoldoende bij stil, zegt Linda Kool. Zij is themacoördinator Digitale Samenleving bij Rathenau Instituut, een Haags bureau voor onderzoek en advies over de maatschappelijke impact van technologie.
Mentale effecten
Kool: ‘De mentale effecten en de gezondheidseffecten van persuasive technology worden te weinig onderkend. Het kan in sommige gevallen zelfs leiden tot depressie. Mensen die zich gevangen voelen in sociale media. Die telkens zoeken naar de beloning van een like en daarmee ongezonde gewoontes aanleren, bijvoorbeeld doordat ze liever met technologie omgaan dan met andere mensen.’
Als consument word je continu geobserveerd en beïnvloed via nieuwe technologie, zegt de onderzoeker. Dat houdt volgens haar niet op bij sociale media en ook niet bij de politieke beïnvloeding door Cambridge Analytica. Het gebeurt, overigens soms zonder instemming of medeweten van de gebruikers, bijvoorbeeld ook met A/B-tests op dating-apps. Maar ook in de publieke ruimte, zij het met betere voorlichting. Zo experimenteert gemeente Eindhoven met de lichtintensiteit van straatverlichting om agressief gedrag in uitgaansgebieden te voorkomen.
Hellend vlak
Zolang de maatschappij niet goed is beschermd tegen onwenselijke technologische beïnvloeding, begeven we ons op een hellend vlak, aldus Kool. ‘Ongewenste inzet van persuasive technology tast onze autonomie en vrijheid aan, zowel individueel als collectief. Dit heeft zijn weerslag op de aard van informatie, de perceptie van informatie, de aandacht voor informatie en de besluiten die we nemen op basis van informatie. Wat begint met verlies van privacy en meningsuiting, leidt uiteindelijk tot verminderde empathie en menselijke waardigheid.’
En dus is het tijd voor actie. Onder meer beleidsmakers en toezichthouders moeten aan de bak, vindt de onderzoeker. ‘Beleidsmakers en politici dienen de bestaande juridische kaders te verhelderen en na te denken over nieuwe kaders. Waar zitten de gaten? Het is tijd om de mensenrechten in ons robottijdperk vast te leggen, zoals het recht om niet te worden gemeten, geanalyseerd of gecoacht en het recht op betekenisvolle menselijke controle. Het is aan de toezichthouders om te zorgen voor naleving van bestaande rechten, zoals het recht op dataprotectie, het mediarecht en het consumentenrecht.’
Verantwoordelijkheid ontwikkelaars
Ook de ontwikkelaars van nieuwe technologie dragen volgens Kool een verantwoordelijkheid. Zij moeten zorgen dat hun algoritmes transparant, niet-misleidend en gemakkelijk vermijdbaar zijn. Bovendien zou het helpen als hun creaties een positief effect op het welzijn van mensen hebben. Een ethische code kan daarbij helpen.
Tot slot is er de consument. Die zou alerter moeten zijn op overtuigingstechnologie en de gevaren daarvan. Technologisch burgerschap kun je stimuleren, met aandacht voor empowerment, digitale weerbaarheid en een actieve bijdrage aan het maatschappelijk debat, zegt Kool.
Fundamentele impact
Steeds meer mensen worden zich bewust van de keerzijde van nieuwe technologie. De uitwassen van politieke beïnvloeding via sociale media, mass surveillance in China en medewerkers van Amerikaanse techbedrijven die demonstreren tegen de manier waarop hun technologie wordt ingezet; voor Kool is het duidelijk dat nieuwe maatregelen nodig zijn. ‘Digitalisering is geen gadget, maar heeft een fundamentele impact op ons menszijn. Het probleem wordt door iedereen onderkend en nu is het tijd om de daad bij het woord te voegen’, besluit ze.
Rathenau Instituut
Het Rathenau Instituut werd in 1986 opgericht als Nederlandse Organisatie voor Technologisch Aspectenonderzoek (NOTA). Het instituut onderzoekt en geeft advies met als doel het politieke en publieke debat over de impact van technologie te voorzien van de juiste argumenten.
In 1994 kreeg de organisatie zijn huidige naam, een verwijzing naar Gerhart Rathenau (1911-1989). Deze hoogleraar leidde eind jaren zeventig een adviesgroep die namens de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) de maatschappelijke gevolgen van ‘micro-elektronica’ onderzocht. Het eindrapport zorgde voor nationale aandacht voor de kansen en bedreigingen van nieuwe technologie en gaf een impuls aan het Nederlandse technologiebeleid.
