Bedrijven weten inmiddels zo veel over ons, dat het makkelijk is ons gedrag te beïnvloeden, of zelfs te manipuleren. Volgens filosoof en hoogleraar ethiek Beate Roessler is het tijd dat de overheid ingrijpt. "De overheid kan ons niet vragen om dat zelf af te weren."

Kijk Het Filosofisch Kwintet over Commercie, waar filosoof Beate Roessler te gast is. De aflevering wordt uitgezonden op zondag 5 juli om 12:10 op NPO 1, en is daarna hier terug te zien.

“Hoewel we onszelf graag zien als betrouwbare en onafhankelijke beslissers, zijn we in werkelijkheid heel kwetsbaar voor beïnvloeding,” zegt filosoof Beate Roessler. En deze kwetsbaarheid is met de opkomst van digitale technologieën alleen nog maar groter geworden. Ons spoor van datakruimels maakt het bedrijven gemakkelijker op onze zwaktes in te spelen. Bovendien worden we steeds vaker geconfronteerd met op maat gesneden advertenties en gepersonaliseerd nieuws. Roessler maakt helder wat op het spel staat.  

Over Beate Roessler

Beate Roessler is hoogleraar ethiek aan de Universiteit van Amsterdam. In haar onderzoeken verdiept Roessler zich in het belang van privacy en autonomie.  

Wat is manipulatie?

“Manipulatie is verborgen en buit onze kwetsbaarheden uit. Het appelleert niet aan ons vermogen tot besluitvorming, maar dit wordt juist verstoord zodat de manipulator er baat bij heeft, niet de gemanipuleerde. En omdat je je er niet bewust van bent kan manipulatie succesvol zijn.  

Manipulatie is iets anders dan nudging. Nudging claimt namelijk in jouw belang te zijn en probeert je cognitieve kwetsbaarheden te corrigeren, niet uit te buiten. Een bekend voorbeeld is het gebruik van nudging in schoolkantines. Door gezond voedsel op ooghoogte neer te leggen en het ongezonde uit het zicht te houden, worden kinderen gestimuleerd gezonder te eten.” 

Is manipulatie tegenwoordig ingrijpender? 

“Bedrijven kunnen nu grote hoeveelheden online- en offline-data over ons verzamelen. Hierdoor kunnen ze gemakkelijker onze zwakheden aanwijzen. Zwakheden die gebruikt kunnen worden voor het maken van gepersonaliseerde advertenties. Dat vergroot immers de kans dat we ervoor vallen.

Een goed voorbeeld is een gelekt document van een studie van Facebook waarin werd beschreven hoe adverteerders hun reclame konden ‘targeten’ op onzekere tieners. Dat is een heel duidelijke vorm van manipulatie. Kwetsbaarheden worden dan uitgebuit voor andermans gewin.” 

Filosoof Beate Roessler aan tafel bij Het Filosofisch Kwintet, naast datajournalist Dimitri Tokmetzis

Maakt het uit of het om ‘goede’ of ‘foute’ producten gaat?

“Het gaat er om of mensen denken aan jouw belang. Een bedrijf als Amazon manipuleert ons omdat het vooral goed voor hen is, ook al zou het uiteindelijk ook voor ons goed kunnen uitpakken. Dat de beïnvloeding onzichtbaar is maakt het ook problematisch.

Manipulatieve advertenties veranderen de manier waarop wij keuzes maken, onze keuze-architectuur, zonder dat we het doorhebben. Daarmee beïnvloeden ze onze besluiten en tasten ze onze autonomie aan. Dat geldt niet alleen voor ‘foute’ producten, maar ook voor ‘goede’ producten.” 

We lijken het problematischer te vinden wanneer de overheid ons manipuleert dan een commercieel bedrijf. 

“Voor de relatie tussen de burger en overheid is vertrouwen fundamenteel. Als ik zou merken dat de overheid mij constant bedriegt, dan verstoort het die relatie. Bij bedrijven kunnen we dat erg vinden, maar verwachten we ook niet anders.

Momenteel is het wel een groter probleem omdat bedrijven veel dieper ingrijpen in ons privé-leven. Je hoeft tegenwoordig niet eens meer online actief te zijn om digitaal te worden gevolgd. Via onze betaalpas wordt bijvoorbeeld vastgelegd wat we waar kopen en gezichtherkenningssoftware kan ons op straat identificeren.”  

Welke gevolgen heeft dat voor de samenleving? 

“Het tast onze individuele autonomie – dat we altijd leven in relatie met anderen – aan, maar het gaat ook verder dan dat. Het vermindert ook onze relationele en politieke autonomie. Het vermogen om te bepalen hoe we de samenleving willen inrichten, wat een goed leven is. Hoeveel vrijheid willen we bijvoorbeeld geven aan commerciële partijen? Aan die vraag gaan we nu voorbij; commerciële manipulatie is wijdverbreid.  

Democratische instituties zijn zo ontworpen dat ze de autonome politieke keuzes van burgers weerspiegelen. Wanneer een bedrijf als Cambridge Analytica onze stemkeuze probeert te beïnvloeden, kan dat de integriteit van de politiek in gevaar brengen. Autonomie vormt de kern van de liberale democratie. Dat schaden raakt ons dus niet alleen persoonlijk, maar raakt ook de samenleving."

Wat betekent het voor onze informatievoorziening?

“Dan hebben we het over de personalisering van nieuws en over filterbubbels. Je ziet daardoor vooral het nieuws dat is geselecteerd op basis van hetgeen je in het verleden online hebt bekeken of gelezen. Personalisering van nieuws beperkt daarom je toegang tot de wereld. Het beperkt de kansen om jezelf en je interesses te ontdekken.” 

Is regulering nodig? 

“Individuen zijn zich vaak niet bewust van de manieren waarop hun gegevens verzameld en gebruikt worden. De overheid kan ons dus ook niet vragen om dat zelf af te weren. Regulering binnen de digitale sfeer is een taak voor de overheid. Dat is geen gemakkelijke opgave, maar wel noodzakelijk.” 

Verder verdiepen? Samen met Helen Nissenbaum en Daniel Susser schreef Roessler het wetenschappelijke artikel Online Manipulation: Hidden Influences in a Digital World. Download de publicatie hier.

Samen met datajournalist bij De Correspondent Dimitri Tokmetzis, mediawetenschapper Sidney Vollmer en filosoof Daan Roovers is Beate Roessler te gast in Het Filosofisch Kwintet over Commercie. De aflevering wordt uitgezonden op 5 juli om 12:10 op NPO 1.

Lees meer over de aflevering, en kijk hem nadien hier terug.