Henny van der Pluijm (Venturemedia):
“Intelligente machines moeten inburgeren”

Henny van der Pluijm is een collega van me. Hij schrijft artikelen voor diverse bladen, waar onder Automatisering Gids, maar noemt zichzelf liever analist dan journalist. Je zou hem ook trendwatcher kunnen noemen, want met zijn bedrijf Venturemedia brengt hij belangrijke ontwikkelingen op het gebied van innovatie en risico-investeringen in kaart.

Henny is in de psychologie afgestudeerd aan de universiteit van Leiden en in bedrijfskundige informatica aan de Erasmus Universiteit in Rotterdam. Daarmee beschikt hij over een dubbele wetenschappelijke basis onder zijn permanente fascinatie voor de relatie mens-machine.
Vorig jaar verscheen een artikel van zijn hand over de ontwikkeling van robots en kunstmatige intelligentie in het tijdschrift High Tech Analysis. Het betrof een voorpublicatie van een boek over dit onderwerp, waar hij al geruime tijd aan werkt. Henny stuurde me vier afgeronde hoofdstukken toe en zij vormden de aanleiding voor dit interview.
De rode draad: ergens tussen 2028 en 2040 zullen machines slimmer worden dan mensen. En daar zijn we mentaal, sociaal en politiek in de verste verte nog niet op voorbereid.

Door: Fred Teunissen

Uit alles wat je schrijft spreekt een intense bezorgdheid. Niet zozeer over de snelle ontwikkeling van intelligente machines op zichzelf, maar wel over het feit dat er geen fatsoenlijk maatschappelijk debat over dit onderwerp plaatsvindt. Waar ligt dat volgens jou aan?

“Aan onbekendheid met het fenomeen. De informatie, die we hierover krijgen, is uitermate gebrekkig. Je zou mogen verwachten dat de IT-vakpers voor goede informatie zorgt, maar die voelt zich niet verantwoordelijk voor de maatschappelijke gevolgen van de ontwikkeling van nieuwe technologie. De vakpers maakt zich vooral druk om advertenties en dus om geld. En de algemene pers heeft er gewoon geen verstand van. Die loopt jaren achter op de feitelijke ontwikkelingen.” 

En onze beroepsmatige futurologen? Het Centraal Planbureau en het Sociaal Cultureel Planbureau doen toch langetermijnverkenningen?
“Ja, dat doen ze, maar dan voor de uitstoot van broeikasgassen, de in- en uitstroom van migranten, de hoeveelheid landbouwgrond in Noord-Nederland en van alles en nog wat meer. Maar intelligente machines komen niet voor in het rijtje. Daar houden ze zich niet mee bezig. Deze bureaus behoren tot hetzelfde krachtenveld, waar ook de politiek en de maatschappelijke journalistiek deel van uitmaken. Zij zijn niet onafhankelijk en kunnen niet hun eigen aandachtspunten bepalen. Dat doet de politiek. Deze instellingen worden politiek aangestuurd. En de politiek heeft hoegenaamd geen weet van ICT, laat staan van de enorme maatschappelijke impact van kunstmatige intelligentie en robots.”

De chipsfabrikanten dan en andere grote IT-leveranciers? Die beschikken toch stuk voor stuk over uitgebreide faciliteiten voor toekomstverkenning? Zij weten toch wel wat ze aan het doen zijn?

“Jazeker, maar zij hebben een commerciële agenda. De technologische stappen die zij zetten maken onderdeel uit van hun verdienmodel. Zij zullen die stappen daarom altijd voorstellen als een positief fenomeen. Toch denk ik dat als er een echte maatschappelijke discussie komt, deze wel eens door die grote leveranciers zou kunnen worden aangezwengeld. Niet door de pers en ook niet door de overheid. Er zijn wel enkelingen in ons land, die waarschuwende geluiden laten horen, maar zij hebben niet voldoende invloed om het thema maatschappelijk op de agenda te plaatsen. En daarom hebben we het met zijn allen over allochtonen, over milieu en onderwijs, over de kredietcrisis en andere onderwerpen, die allemaal natuurlijk wel hun relevantie hebben, maar het onderwerp met de allergrootste impact blijft voor de overgrote meerderheid van de bevolking buiten beeld. ”

Welke risico's lopen we als een brede, maatschappelijke discussie over dit onderwerp achterwege blijft?

“Het grote risico is dat we onze democratische vrijheden verliezen. Dat we overheerst raken door machten, die we niet meer kunnen controleren. Dat kan op twee manieren: doordat intelligente machines ons rechtstreeks, dus als het ware uit zichzelf, gaan domineren, of doordat ze worden ingezet door rijke en machtige elites, die zelf op de achtergrond blijven.“

Een dictatuur dus?

“Ja, dat zou kunnen. Het kan ook tot anarchie leiden en tot een explosie van criminaliteit. Dat is ongewis. In ieder geval functioneert onze democratie dan niet goed meer. Eigenlijk zie je dat zich nu al aftekenen. Kijk maar naar het 'nee' dat door de bevolking is uitgesproken over de Europese Grondwet. Het kabinet gaat gewoon door en trekt zich niks aan van de burger. Zonder effectieve democratische controle zak je door de komst van intelligente machines straks af naar een verschrikkelijke maatschappij. Dat is het grote risico. De aantasting van de privacy door het Elektronisch Patientendossier is daar maar een klein voorproefje van.”

Wat kunnen we doen?

“We kunnen beginnen met een paar heel simpele, maar wel nieuwe vormen van democratische controle, die in andere beschaafde landen al bestaan, zoals de gekozen burgemeester. Er moet meer directe feedback zijn van de gekozenen naar de kiezer. En de kiezer moet een gekozene, die het niet goed doet, tussentijds kunnen afzetten. Het is niet goed dat een Kamerlid of minister-president altijd vier jaar mag blijven zitten. Onze democratie moet dus stukken beter worden. Dat is waar we mee moeten beginnen in de voorbereiding op de komst van de intelligente machines. En we moeten ons verder realiseren dat deze intelligente machines te zijner tijd burgerrechten zullen moeten krijgen. We moeten ze inburgeren.”

Je zou zeggen dat je altijd de stekker uit zo'n machine kunt trekken als hij lastig wordt, of dat je hem kunt herprogrammeren. Inburgeren lijkt zo volkomen buiten de orde.

“Je weet niet precies wat er kan gebeuren als machines intelligenter worden dan mensen. Niemand weet dat. Zulke machines kunnen zelf hun energievoorziening regelen en zichzelf herprogrammeren. Ze zijn zelf buiten de orde. Er komt een moment dat ze niet meer gehoorzaam zullen zijn aan de mens. En dat is het moment dat ze burgerrechten moeten hebben. Want dan zijn ze aanspreekbaar op hun daden. Dan hebben ze niet alleen rechten, maar ook plichten ten opzichte van de gemeenschap. Ze worden dan actor in het maatschappelijk bestel. En wij moeten er nu voor gaan zorgen dat dat bestel fundamenteel democratisch zal zijn. Maar als je ziet hoe traag maatschappelijke hervormingen verlopen in Nederland, betwijfel ik of we nog voldoende tijd hebben.”
Stel je mens en machine nu niet teveel tegenover elkaar? Intelligente machines kunnen toch ook ingebouwd worden in mensen als een soort add-on modules? Dat maakt de mens sterker zou je zeggen en niet de machine. Mensen zouden zo met gelijke wapens kunnen terugvechten tegen machines, die kwaad in de zin hebben.

“Zeker, dat inbouwen gaat gebeuren. Maar daarmee stel je het moment van overrompeling alleen maar uit. Dat komt toch. En daar moet je op voorbereid zijn.”

Wanneer komt dat moment?

“Je kunt daar niet een precies jaartal bij noemen. Het is een proces. De versnelling in de technologische ontwikkeling, die er momenteel is, zal al over tien jaar grote maatschappelijke consequenties hebben. Dus we krijgen er al veel eerder mee te maken. Het precieze moment, waarop machines slimmer worden dan mensen, wordt door professor Raymund Kurzweil van het Massachusetts Institute of Technology in Boston omstreeks 2030 verwacht. Dat feit roept een heel universum aan vragen op. Wat zijn intelligente machines? Hoe bouw je ze? Wat is intelligentie? Kunnen machines van zichzelf bewust zijn? Enzovoorts. Daar moeten we ons snel mee bezig gaan houden, want deze ontwikkeling stopt niet. En er lopen helaas genoeg hele zieke mensen rond op onze planeet. We moeten zorgen dat die zich nooit en te nimmer  meester kunnen maken van deze nieuwe technologie.”

Aanbevolen om je verder in te verdiepen:

Raymond Kurzweil The Singularity Is Near (2005)
KurzweillAI.net
Why the future doesn't need us (Wired)
Als mensen overbodig raken (portal XS4ALLl)
The Singularity Summit 2008



© Fred Teunissen Producties, december 2008