De machines nemen het over

Over 35 jaar houdt de mensheid op te bestaan. Wees gerust, dit is geen Mayaanse doemvoorspelling. Integendeel. Als we wetenschapper, uitvinder en futuroloog Ray Kurzweil moeten geloven staan we juist aan het begin van een glorieuze nieuwe dageraad. Kurzweil zegt dat de zon opkomt boven een mensheid die onherkenbaar zal zijn veranderd door  de steeds snellere vooruitgang van kennis op drie gebieden: de nanotechnologie, de biomedische wetenschap en kunstmatige intelligentie. De progressie op deze drie terreinen versterkt elkaar: door nanotechnologie kunnen computers sneller en sterker worden, waarmee we weer rapper de biologische geheimen van ons leven ontrafelen.

In 2045 hebben we het punt bereikt dat Kurzweil ‘singulariteit’ noemt. Wij mensen zullen geleidelijk aan uit steeds meer kunstmatige onderdelen bestaan. Het onderscheid tussen mens en computer vervaagt. We zullen kapotte onderdelen vervangen zoals bij dertigduizend Parkinson-patiënten is gebeurd, die hun ziekte met neurologische implantaten proberen te bestrijden. Met nanotechnologie kunnen we alles maken wat we willen, van onuitputtelijke voedselvoorraden tot energiebronnen die niet opraken. Ziekte behoort tot het verleden – en dood hoeven we ook niet meer.

Ik ben onvoldoende wetenschapper om het waarheidsgehalte van Kurzweils claims te kunnen beoordelen, maar genoeg romanticus om de aantrekkelijkheid ervan te kunnen inzien. Stel je voor, als je nu vijftig bent kun je de onsterfelijkheid nog bereiken! Dat zou wat zijn. Het klinkt als science fiction – maar zoals schrijver Lev Grossman terecht opmerkt in een recent nummer van Time Magazine, Kurzweils toekomstvisioen bevat net zoveel fictie als het weerbericht. Per slot van rekening worden computers niet alleen sneller, ze worden sneller in een steeds rapper tempo. De singulariteit is een serieuze hypothese over de toekomst van de mensheid die door tal van wetenschappers wordt onderzocht. NASA is gastheer van de singulariteits-universiteit waar studenten van alle grote universiteiten het fenomeen diepgaand bestuderen. Google is een belangrijke sponsor. Google-oprichter Larry Page houdt er toespraken.

Kurzweil is een optimist. Computers die steeds sneller worden en steeds intelligenter zullen nooit een bedreiging vormen voor de mensheid. The Matrix is en blijft een film, de machines nemen ons leven niet over. ‘Vanuit het perspectief van een biologische mensheid zullen deze bovenmenselijke intelligenties zich aan ons voordoen als onze trouwe dienaren, die in al onze behoeften en noden zullen voorzien’, schrijft hij. Sommige cijfers lijken hem gelijk te geven. Dat beamen niet alleen die dertigduizend patiënten met Parkinson, maar ervaren we ook zelf: als onze iPhone van ons afgepakt wordt, voelen we ons alsof we onze rechterhand kwijt zijn.

Niet iedereen deelt Kurzweils optimisme. Er is geen garantie dat de machines ons leven niet zullen overnemen. Maar los van de vraag naar het realiteitsgehalte en de positieve dan wel negatieve effecten van de singulariteit, het hele idee roept belangrijke vragen op over ons mens-zijn en onze intelligentie. De pure intellectuele capaciteiten van de mens kunnen heel goed worden nagebouwd. IBM is er per slot van rekening in geslaagd een computer te bouwen die de beste deelnemers van een Amerikaanse kennisquiz vorige week kon verslaan.

Maar het is niet alleen ons intellect wat ons tot mens maakt; het is onze hele sociale omgeving, onze sociale netwerken, onze emotionaliteit die karakteristiek zijn. We bouwen steeds snellere en betere computers die ons steeds meer dichter bij de singulariteit brengen: ze helpen bij de bestrijding van ziektes en bij het oplossen van het energieprobleem. Deze computers hebben in de afgelopen vijf jaar 600 miljoen mensen, wereldwijd, aan elkaar verbonden via elektronische netwerken. Hoe garanderen we dat deze nieuwe kunstmatige intelligentie zo ‘menselijk’ mogelijk is – dat ze inderdaad de mensheid dienen in plaats van haar tot slaaf maken?

Dat zijn volgens mij de belangrijke vragen van de singulariteit – en ik denk dat het tijd wordt dat we daarover ook in Nederland met elkaar in debat gaan.

2 Comments

  1. Je hoeft geen wetenschapper te zijn om de denkfouten in dit stuk te zien.

    Als je onsterfelijk bent, maak je je de zorgen niet die je nu hebt. Er bestaat geen waarde meer. Je hoeft dus ook geen debat houden over dingen die je toch niet meer belangrijk zal vinden.

    ==Hoe garanderen we dat deze nieuwe kunstmatige intelligentie zo ‘menselijk’ mogelijk is – dat ze inderdaad de mensheid dienen in plaats van haar tot slaaf maken?==

    En waarom zouden onsterfelijke uberintelligente machines de behoefte hebben om een domme mens als slaafje te hebben?

    Je denkt nog steeds met de mentaliteit van een kolonialistische Westerling, die bang is dat hij over een aantal jaar in de hemd van de huidige mensen in de Derde Wereld zal staan. Ga maar eerst voor een half uur nadenken hoe het zou zijn om onsterfelijk te zijn. Alles wordt irrelevant. Je hebt geen doodsangst meer, geen behoeftes, geen waardes, alles wordt oninteressant. Het zou voor jou geen verschil maken of je vrij of slaaf bent. En het zou voor de superintelligente en onsterfelijke machines geen zin hebben om jou als slaafje te gebruiken.

    http://bit.ly/hgPtvl

  2. Hoe garanderen we dat deze nieuwe kunstmatige intelligentie zo ‘menselijk’ mogelijk is – dat ze inderdaad de mensheid dienen in plaats van haar tot slaaf maken?

    Misschien is juist een “onmenselijke” AI benadering noodzakelijk om te voorkomen dat de mens slaaf van de machine zal worden.

    Overigens is er op internet al een trend in gang gezet – astroturfing -die de mens in de toekomst in sociale netwerken zou kunnen verdringen (http://www.guardian.co.uk/environment/georgemonbiot/2011/feb/23/need-to-protect-internet-from-astroturfing)

Comments are closed.