'Wij zijn de kameraden van de robots en gaan met ze schaken, zingen en wandelen'

Debat over de maakbare mens (deel 4, slot).

Naarmate technologische ontwikkelingen vorderen, kunnen we de werkelijkheid steeds meer naar eigen voorkeur ontwerpen. De maakbaarheid van het menselijk leven neemt toe. Denk aan robots die nog nauwelijks van mensen te onderscheiden zijn en computers die politieke beslissingen nemen.

De keerzijde kan zijn dat robots op termijn de mens voorbij zullen streven en de mens overbodig maken. En is het wenselijk dat computers recht gaan spreken in plaats van rechters? Vier meedenkers gaan in op stellingen hierover in het laatste deel van het debat over de maakbare mens op Human.nl

Bekijk hier deel 1 van het debat over de maakbare mens.

Bekijk hier deel 2 van het debat over de maakbare mens.

Bekijk hier deel 3 van het debat over de maakbare mens.

Het radioprogramma OBA Live van HUMAN besteedt in het seizoen 2009/2010 speciale aandacht aan het thema Maakbare Mens. Theodor Holman interviewt interessante wetenschappers over de lange weg naar de perfecte mens. Aan de orde komen onderwerpen als kunstmatige intelligentie, DNA en genetische aanleg en militaire robotica.

Kijk / luister naar de interviews van Theodor Holman!

Meedenkers

'De opmars van de robot die de mens verslaat nog wel even op zich zal laten wachten.'

Bibi van den Berg

Filosoof aan de Universiteit van Tilburg

Computers zullen op termijn beter rechtspreken, betere politieke beslissingen nemen en beter kunnen oordelen over abortus en euthanasie. Derhalve maken ze rechters, politici en artsen overbodig.
“Computers zijn erg goed in het opslaan en reproduceren van enorme hoeveelheden data. Of computers ook beter zijn in de interpretatie van al die data is de vraag. Daarbij spelen zaken als context, het wegen van ervaringen uit het verleden en andere, wellicht meer impliciete parameters mee. Zogenaamde 'expertsystemen', zoals de hiervoor beschreven computersystemen genoemd worden, zijn erg goed in het analyseren van allerhande problemen in bijvoorbeeld de geneeskunde waarbij grote hoeveelheden informatie gebruikt worden, maar vlak de capaciteiten van de mens ook niet helemaal uit.

En dan hebben we het nog niet eens over de ethische aspecten van deze stelling: ik vermoed dat het op zijn minst nog wel even duurt voor we ertoe bereid zijn computers de laatste stem te geven bij een beslissing over abortus, euthanasie, ze ons land zullen laten runnen, of ze op te laten treden als rechter. Zelfs als ze er rationeel gezien beter in zouden zijn, moeten we in morele en juridische zin dan toch nog een paar stappen zetten!”

De mens afficheert zich graag als de evolutionair meest ontwikkelde soort. Het zou kunnen dat computers en robots op termijn onze betere ik zullen zijn. De ultieme consequentie daarvan is dat we onszelf overbodig maken en vernietigd worden door robots.
“Het zou inderdaad kunnen dat computers en robots op termijn een beter ontwikkelde of sterkere 'soort' zullen zijn dan de mens. Het probleem zit hem echter in de frase 'op termijn' – op welke termijn? En: als die termijn maar lang genoeg is, kan er in de tussentijd ook nog veel gebeuren waardoor robots uiteindelijk niet de beter ontwikkelde of sterkere 'soort' zullen zijn.

Eén van de lastigste zaken aan technologie-ontwikkeling betreft enerzijds onze hang naar toekomstvoorspelling, die ook deze stelling voedt, en anderzijds onze beperkte vermogens om dat adequaat te doen. Al was het maar omdat technologie-ontwikkeling buitengewoon complex en vaak erg grillig verloopt. Vijftig jaar geleden had niemand de computer of het internet kunnen voorzien; nog geen twee decennia geleden leek de mobiele telefoon een luxueuze gadget voor de happy few. En kijk waar we nu zijn.

Tegelijkertijd gaan ontwikkelingen op het gebied van kunstmatige intelligentie al enkele decennia lang veel trager dan verwacht – in 1950 voorspelde men rond het jaar 2000 robots te kunnen bouwen die even intelligent zouden zijn als de mens. Dat is helaas niet gelukt, en het lijkt er niet op dat het in de komende decennia wel zal lukken. Al zijn er de afgelopen jaren wel weer belangrijke stappen vooruit gezet.
Ik vermoed dat, als het al gaat gebeuren, de opmars van de robot die de mens verslaat nog wel even op zich zal laten wachten. Een flinke horizon dus, dat 'op termijn'. En dan als uitsmijter en 'food for thought' maar deze vraag: waarom zou het eigenlijk erg zijn als onze 'geesteskinderen' ons uiteindelijk voorbij streven?”

'Meer kritisch en genuanceerd denken, verbeeldingskracht en inlevingsvermogen lijken me uiteindelijk belangrijker dan meer computers, robots en andere high tech-apparatuur'

Peter Derkx

Hoogleraar aan de Universiteit voor Humanistiek

De mens afficheert zich graag als de evolutionair meest ontwikkelde soort. Het zou kunnen dat computers en robots op termijn onze betere ik zullen zijn. De ultieme consequentie daarvan is dat we onszelf overbodig maken en vernietigd worden door robots.
“Als computers en robots een bedreiging zijn voor de menselijke soort dan is dat waarschijnlijk omdat een deel van de mensheid met behulp van die apparaten een ander deel van de mensheid denkt te kunnen gebruiken, beheersen en onder de duim houden. Dat is namelijk wat de geschiedenis al vaak heeft laten zien.

Technologieën op zichzelf zijn meestal minder gevaarlijk voor mensen dan mensen voor elkaar. Daarom is het ook zo belangrijk om in dit soort discussies niet te gemakkelijk te praten over ‘de’ mens, wij mensen, de mensheid en de menselijke soort alsof dat een eenheid is waarvan alle leden vredig samenwerken en dezelfde opvattingen en belangen hebben. De evolutionair meest ontwikkelde soort heeft de 20ste eeuw bijvoorbeeld niet tot een onverdeeld succes gemaakt. Meer kritisch en genuanceerd denken, verbeeldingskracht en inlevingsvermogen lijken me uiteindelijk belangrijker dan meer computers, robots en andere high tech-apparatuur. Hoe nuttig die verder ook kunnen zijn."

'Een ethicus heeft nooit gezegd dat beter computers kunnen rechtspreken. Dat is typisch een fantasie van kwantitatief denkende technici.'

Tsjalling Swierstra

Socrateshoogleraar

Computers zullen op termijn beter rechtspreken, betere politieke beslissingen nemen en beter kunnen oordelen over abortus en euthanasie. Derhalve maken ze rechters, politici en artsen overbodig.
"Computers zijn er goed in gelijke gevallen gelijke oordelen te vellen. Daar zijn rechters over het algemeen niet zo goed in. Een rechter in Groningen oordeelt in vergelijkbare zaken heel anders dan in Arnhem. Ook in de zaak Lucia de Berk zou een computer een betere uitspraak hebben gedaan. Die zaak had met kansberekening te maken en daar zijn computers ongelooflijk goed in. Alles wat je kunt objectiveren in kwantitatieve aspecten kunnen computers beter.

Maar recht gaat ook over omstandigheden, de geloofwaardigheid van getuigen en rechtvaardigheid van een straf. Een rechter kan bijvoorbeeld vinden dat iemand al genoeg gestraft is doordat hij zijn baan en faam verloor. De mensheid heeft honderden jaren geoefend op dergelijke ethische variabelen, een computer mist daarvoor het menselijke inzicht en het ethische gevoel. Misschien dat een computer het zou kunnen als je alle variabelen erin zou stoppen, maar dat zou enorm inefficiënt zijn. Een mens kan dat veel sneller. Daarom heeft nog nooit een ethicus gezegd dat computers kunnen rechtspreken. Dat is typisch een fantasie van kwantitatief denkende technici."

'Wat is er erg aan dat we onszelf overbodig maken?'

Jaap van den Herik

Hoogleraar Informatica aan de Universiteit van Tilburg

Computers zullen op termijn beter rechtspreken, betere politieke beslissingen nemen en beter kunnen oordelen over abortus en euthanasie. Derhalve maken ze rechters, politici en artsen overbodig.
"Daar ben ik het helemaal mee eens. Computers streven op termijn politici, artsen en rechters in capaciteiten voorbij. Ethische kwesties zullen ze in 2080 beter kunnen afhandelen, gewoon recht in 2060 en politiek in 2070. Abortus en euthanasie zijn relatief eenvoudiger onderwerpen en daar zullen computers in 2040 beter over oordelen. Als de juiste gegevens invoert, berekent de computer een uitspraak. Een zaak als die van Lucia de Berk ligt wat ingewikkelder, maar als die rapporten door computers naast elkaar gelegd waren, hadden ze gezegd: waar zijn we mee bezig?"

De mens afficheert zich graag als de evolutionair meest ontwikkelde soort. Het zou kunnen dat computers en robots op termijn onze betere ik zullen zijn. De ultieme consequentie daarvan is dat we onszelf overbodig maken en vernietigd worden door robots.
"De ultieme consequentie is inderdaad dat we onszelf overbodig maken. Alleen worden we dan niet vernietigd, denk ik. Robots kunnen dan beter denken dan wij en hebben een hogere beschaving, dus waarom zouden ze ons doden? Wij zijn de kameraden van de robots en gaan met ze schaken, zingen en wandelen.

Wat is er trouwens erg aan dat we onszelf overbodig maken? Computers zijn inmiddels beter in schaken dan de mens, maar ik voel me daar niet meteen zinloos door. Het is simpelweg een volgende stap in de evolutie, die schat ik rond 2450 zal plaatsvinden. Tenzij er een commissie of actiegroep komt die besluit te stoppen met de ontwikkeling van kunstmatige intelligentie."