'We worden continu gestuurd door algoritmes'

, Nele Goutier

In Control Alt Delete onderzoeken Jan Jaap van der Wal en Joy Thielemans de toekomstige invloed van technologie. Wij praten verder met techniekfilosoof Shannon Spruit.

In Control Alt Delete zien we hoe Jan Jaap van der Wal, in zijn rol als God, bezorgd is over de toekomst van technologie. Joy Thielemans geeft zich als ‘labrat’ vol enthousiasme over aan de experimenten die hij voor haar verzint - van VR-seks tot het hacken van haar hersens. De Vlaamse actrice wordt zich - ondanks haar optimisme - langzaamaan bewust van de potentiële risico’s en ethische vraagstukken die technologische innovatie met zich meebrengt.

Maar staan de mensen die aan de knoppen zitten - de ingenieurs - eigenlijk wel stil bij de risico's? Hoeveel zorgen moeten we ons maken? En wat kunnen we doen om een veilige toekomst te waarborgen? We vragen het techniekfilosoof Shannon Spruit.

In hoeverre zijn ingenieurs bezig met de risico’s en de ethische kant van hun vakgebied? 


Spruit: ‘In de heersende opvatting zijn het de technische aspecten die bepalen of iemand een goed ingenieur is - niet of hij of zij toewerkt naar morele doelen. Ingenieurs zijn vaak mensen die vooral willen weten hoe dingen werken. Er zijn wel mensen binnen de TU (Delft red.) die zich druk maken over de ethische en maatschappelijke impact, maar zij hebben niet altijd ruimte om dat te bespreken. Er is vaak ook geen tijd voor te midden van de dagelijkse drukte en de sterke competitie in de wetenschap. 
Sommige universiteiten hebben wel ethics advisors. Dat zijn mensen met een ethiek-achtergrond, waar je kunt binnenlopen als je een probleem ziet. Dat is belangrijk, vind ik.’

Mensen zijn bang dat techniek slimmer wordt dan wij. Is dat een realistische angst?

‘Ik weet niet of het waarschijnlijk is dat er iets komt dat mensen wil wegconcurreren. Ik sluit het niet uit, maar ik zou ook niet weten waarom dat wel zo zou zijn. Wel is het zo dat techniek steeds vaker zelflerend is, en dus slimmer en beter wordt zonder dat wij daar iets voor doen. Vrienden van me zeggen soms: “Ons tekst-algoritme werkt supergoed, maar we weten niet waarom”. Vroeger wist je als programmeur hoe alles werkte, want hij had zelf het systeempje gebouwd. Dat is niet langer per se het geval. Zo wordt er steeds meer onzekerheid gecreëerd. Er zijn meer en meer algoritmes, maar we weten minder goed hoe ze werken. Transparantie is sowieso een groot probleem, want er zijn veel bedrijven die algoritmes ontwerpen en dat als bedrijfsgeheim bewaren.’

Veel technologische innovatie is voor de ‘gewone mens’ dus onzichtbaar. Wat doet dat met onze autonomie?

‘We worden continu beïnvloed en dat is iets dat mij zorgen baart. Soms wordt gesuggereerd dat je als mens kunt kiezen om wel of niet beïnvloed te worden. Dat is niet zo. Je wordt continu gestuurd door algoritmes en marketing. Daardoor ben je niet volledig vrij in je handelen en dat brengt vragen met zich mee over verantwoordelijkheid. Kun je zeggen dat jij een bepaalde handeling daadwerkelijk hebt ondernomen als je onbewust in sterke mate beïnvloed bent?’ 

Is dat iets nieuws? Puur autonoom zijn we toch nooit geweest?

Klopt. Iedereen leeft in een sociaal netwerk waarbinnen bepaalde normen gelden. Je hele vorming vindt plaats in interactie met je omgeving. Maar je weet dat je opgevoed bent, terwijl de beïnvloeding van tegenwoordig steeds meer op onzichtbaar niveau plaatsvindt.’ 

Kun je daar een voorbeeld van geven?

Neem Natural Language Processing: een algoritme dat het mogelijk maakt om een grote dataset van teksten te doorzoeken op patronen. Dat is heel handig voor overheden en allerhande instanties die surveillance willen, of die het menselijk gedrag willen sturen. Eén van de meest interessante voorbeelden vond plaats rondom de verkiezingen in de VS. Het lijkt erop dat grote hoeveelheden informatie opgezocht zijn over de kiezers, zodat er doelgericht advertenties naar hen verstuurd konden worden. Officieel is dat geen verkiezingsfraude, maar wel een grey zone. Mensen hebben voor Trump gekozen, dus hun stem is rechtsgeldig, maar je moet je afvragen in hoeverre ze hun keus zelfstandig gemaakt hebben, omdat ze zo gemanipuleerd zijn. Super choquerend vind ik het.’

Is het democratisch systeem daarmee in gevaar?

‘Jazeker. Je wordt altijd beïnvloed in je stem: door afkomst, opvoeding, werkomgeving, alles. Maar nu komt het vanuit plekken die mensen niet met politiek associeren - veel stiekemer.’

Onder ingenieurs wordt dus niet veel over de risico’s gepraat, maar onder ‘de gewone mens’ voor mijn gevoel ook niet.

‘Dat zou wel goed zijn, aangezien technologie-ontwikkelaars zo’n grote macht aan het worden zijn in onze samenleving. Het heeft een groot effect op ieders leefwereld: op sociale relaties, je privacy, je energiehuishouding, hoe het verkeer zal zijn. Mensen gaan er vanuit dat de overheid die dingen controleert, maar je ziet vaak de regulering achterblijft op de ontwikkeling. Dat komt doordat innovaties snel gaan, maar ook doordat overheden niet genoeg kennis in huis hebben om meteen regels te kunnen ontwikkelen - of om überhaupt te begrijpen wat er precies aan de hand is. Overheden zijn vaak afhankelijk van externe experts en daardoor gevoelig voor lobby. Die is enorm vanuit techbedrijven, die immers enorm veel kapitaal hebben.’

Heeft de techniek ons niet al ingehaald, als de gemiddelde mens én de politiek het nu al niet meer kunnen bijbenen?

‘Ik weet niet of je die vraag zo kunt stellen. Je veronderstelt daarmee dat de technologie los van de mens bestaat, maar je kunt het ook zien als een uiting van menszijn. Vogels maken nesten, mieren bouwen steden en mensen ontwikkelen technologie. De vraag of het ons inhaalt, suggereert dat technologie onafhankelijk van de mens zou bestaan. Dat klopt niet. Wat je wel ziet is dat technologie bepaalde individuen voorbij snelt; dat sommige mensen niet meer kunnen meekomen.’ 

Maar als er over de technologie van de toekomst gepraat wordt, gaat het wel vaak over de vraag of we als mensheid zullen worden ingehaald.

‘Ik denk dat het sommige mensen goed uitkomt dat iedereen bang is voor artificial intelligence. Door te focussen op robots die ons ooit misschien zullen aanvallen, hoef je het niet te hebben over de technologieën die ons leven en onze samenleving nu ontwrichten. Die nu vervuilend zijn.’

Waarover moeten we het dan wel hebben?

Er zijn hele vermogende bedrijven die grote invloed kunnen uitoefenen.Volgens mij moeten we praten over het systeem zoals het nu ontstaat in plaats van over iets dat er niet is en misschien nooit zal zijn. Volgens mij moeten we gewoon iemand op de TU aan de mouw trekken en vragen: welk gesprek moeten we voeren? En dat naar buiten brengen om een zinvol debat op gang te brengen, in plaats van een gehypte, distopische discussie. Ingenieurs hebben angsten over producten die over tien of vijftien jaar op de markt komen, waarvan wij nog niet weten dat ze zullen bestaan. Laten we het daar eens over hebben.’

Shannon Spruit is als filosoof en techniekonderzoeker verbonden aan de TU Delft.