Filosoof Nick Bostrom pleit voor radicale mensverbetering. ‘Waarom is genetische modificatie anders dan nieuwe schoenen?’

'Ik stel me voor dat de denkers van de Verlichting zich ook zo moeten hebben gevoeld,' zegt Nick Bostrom. 'Die opwinding over nieuwe ideeën die nog pril en onsamenhangend zijn, maar waarvan je wel het gevoel hebt dat ze kunnen uitgroeien tot iets van groot gewicht.'

Bostrom is directeur van het Future of Humanity Institute in Oxford. Met zijn team onderzoekers buigt hij zich over de mogelijkheid dat een superintelligentie de wereld overneemt en de kansen dat we daar het heil van mogen verwachten. Eind jaren negentig stichtte hij de World Transhumanist Association. In hun oprichtingsverklaring voorzagen hij en zijn strijdmakkers een toekomst waarin we het menselijke potentieel vergroten door het overwinnen van veroudering, het opheffen van tekortkomingen in ons denken, het uitbannen van onnodig lijden en het koloniseren van de ruimte. Nog voor de nieuwe tijd zich had aangediend, ging het gezelschap aan onderlinge vetes ten onder. 'Jonge sociale bewegingen zijn altijd verzamelplaatsen van grote ego's,' verklaart Bostrom. Activist is hij niet langer, maar als academicus houdt hij zich met onverminderd enthousiasme bezig met het grote project van mensverbetering.

Oxford is een openluchtmuseum vol prachtige universiteitsgebouwen met een glorieuze geschiedenis. Maar de club die filosofeert over de toekomst zit weggestopt in een troosteloos naoorlogs gebouw boven een fitnesszaak. Dat kan Bostrom duidelijk niet deren. Veel aandrang om van zijn omgeving een warm bad te maken, heeft hij niet. Op zijn kale werkkamer zijn zelfs de boekenplanken leeg. Met zijn nasale stem en bionische ogen wekt hij de indruk van een bovenaardse intelligentie die het hier en nu al onstegen is.

'Het Future of Humanity Institute is een heel opwindende plaats,' vindt Bostrom. 'Het is een unieke kans om de hele tijd over dit soort thema's te kunnen nadenken met andere echt slimme mensen.' Dat woordje 'andere' mag onbescheiden klinken, aan intelligentie lijkt het Bostrom inderdaad niet te schorten. In zijn geboorteland Zweden verzamelde hij diploma's in de filosofie, natuurkunde, wiskunde, logica en kunstmatige intelligentie. Hij promoveerde aan de London School of Economics met een proefschrift dat als een van de zeven in de wereld de serie Outstanding Dissertations haalde. In 2008 werd hij op zijn achtendertigste hoogleraar aan de gerenommeerde Oxfordse filosofiefaculteit.

Zijn gedroomde toekomst legde Bostrom neer in een Brief uit Utopia die hij voor het eerst in 2006 schreef en sindsdien regelmatig bijvijlt. Daarin bezingt een postmenselijk wezen het hogere leven waaraan hij heeft mogen proeven.

Vertel eens, wat is een 'hoger leven'?
'De filosoof John Stuart Mill heeft een onderscheid gemaakt tussen hogere en lagere genietingen. De lagere zijn eenvoudige zintuigelijke vormen van plezier, de hogere het genot dat je ervaart wanneer je grote kunst waardeert. Een hoger leven verhoudt zich tot het huidige menszijn zoals het menselijke bestaan van nu zich verhoudt tot dat van een chimpansee. Die heeft geen taal, kunst, muziek, politiek, religie en humor, zaken waarvan wij vinden dat ze betekenis aan ons leven geven. Net zo kunnen er ervaringen zijn waar wij van afgesloten zijn omdat we niet de adequate breinstructuur hebben.'

Daar kunnen we ons geen voorstelling van maken?
'Nee, maar misschien kunnen we er een glimp van opvangen door het leven zoals het normaal is te vergelijken met hoe het op zijn best is, zoals wanneer je piekervaringen hebt, of door het te vergelijken met mensen die een heel goed leven hebben geleid, zoals Goethe.'

Wat was er zo geweldig aan zijn leven?
'Hij had het vermogen dramatische schoonheid in kunst waar te nemen, hij had de mogelijkheid zijn intellect te ontwikkelen en creatief te zijn, om tot op hoge leeftijd te leven en wijs te worden, om verschillende plaatsen te zien in een tijd waarin nog weinig mensen reisden, om een rijker leven te leiden dan dat van de gemiddelde boer die in zijn tijd van de ochtendstond tot het avondrood zijn veld aan het bewerken was. Dat idee kun je extrapoleren tot het leven waar de hypothetische figuur uit de toekomst uit de Brief uit Utopia over schrijft.'

Uw spreekbuis heeft zich ook ontdaan van negatieve gevoelens. Heeft het mooie niet alleen betekenis in contrast met wat lelijk is?
'Er staat denk ik: het korte metten maken met onnodig leed. Het laat de mogelijkheid open dat een zekere mate van lijden noodzakelijk is als een soort schaduw op het canvas. Maar ik denk niet dat lijden psychologisch gezien noodzakelijk is. En zelfs als het wel nodig was, zou je het minimum aan noodzakelijk leed in kunnen voeren. Twee minuten onbehagen elke morgen om je de rest van de dag te laten beseffen hoe goed je het hebt. Er is geen enkele reden om te veronderstellen dat de huidige hoeveelheid misère maar in de buurt van het optimale komt.'

Stel dat er een pleziercentrum in het brein zit, zou u dat dan continu willen stimuleren om negatieve gevoelens uit te bannen?
'Waarschijnlijk zou dat nu nog niet wijs zijn, want er zijn veel mogelijke bijwerkingen van het klooien met ons brein. Naast het vergroten van ons welbevinden wordt in mijn brief tot nog twee grote transformaties opgeroepen: onze levensduur verlengen en onze cognitieve vaardigheden vergroten. Met alleen het maximaliseren van genot kom je uit bij het klassieke hedonisme, waarin mensen allerlei pleziertjes hebben, maar verstoken blijven van andere ingrediënten van het goede leven zoals inzicht en creativiteit, prestaties en relaties.'

In uw posthumane werkelijkheid verzamelt de mens in zijn eeuwenlange leven talloze ervaringen. Komt er niet een moment dat hij het wel gezien heeft?
'Dat hangt ervan af hoe nieuw iets moet zijn om nieuw te zijn. Sommige mensen zijn continu verveeld, anderen vinden alles opwindend. Ze leven in dezelfde wereld, maar voor de een is het een onophoudelijke bron van verwondering, voor de ander een saaie wandeling door een grijs landschap.'

Het onderzoek naar het tegengaan van veroudering is vooralsnog weinig succesvol.
'Het gaat voort op dezelfde manier als al het andere medische onderzoek: mondjesmaat en traag.'

U bent sceptisch over wat we nu weten en kunnen, maar optimistisch over wat er straks mogelijk zal zijn.
'De wetenschap is nog erg jong, ze is pas een paar honderd jaar geleden begonnen, en ze is al zo ver gekomen. Het menselijke lichaam is een gecompliceerd, maar wel een eindig systeem. Uiteindelijk zullen we betere instrumenten vinden om medisch onderzoek te doen en onze genen en cellen te exploreren.'

In uw utopie hebben we geleerd de geest naar 'meer duurzame media' dan het lichaam te verplaatsen. Is onze lichamelijkheid niet wezenlijk voor het menszijn?
'Het essentiële deel is hoe wij de stimuli die vanuit het lichaam komen interpreteren. Als we dromen kan het net zo echt lijken als wanneer we echt dingen ervaren, terwijl er lichamelijk niets gebeurt. Al onze ervaringen zijn bemiddeld door het brein. De echte actie vindt plaats in onze geest.'

In Bostroms toekomstvisioen worden we wie we nu alleen nog in hoop en potentie zijn. Maar wie is dan die ideale mens die we dromen te zijn? In Jonathan Franzens roman Vrijheid hebben de personages alle vrijheid van de wereld hun bestaan naar eigen inzichten te kneden, maar ze hebben geen idee hoe te leven. Bostrom kent het boek niet, het fenomeen wel. Zijn oplossing: 'Als er een scala mensverbeteringen mogelijk is, is het de vraag waarmee je moet beginnen. In eerste instantie zijn verbeteringen van het welbevinden moeilijk en risicovol. Het is verstandiger te beginnen met verbeteringen die bijdragen aan ons oordeelsvermogen en wijsheid. Dat plaatst ons in een betere positie om te kijken hoe we van daaruit verdergaan.' Zelf weet hij ook nog niet precies wie hij hoopt te worden. 'Ik heb geen helder beeld van de bestemming maar ik kan wel een richting voelen. Onderweg hoop ik beter zicht te krijgen op wat het goede leven is en wat de effecten zijn van verschillende vormen van mensverbetering.'

Gevaarlijkste idee
Het utopisme van de Zweedse futurist roept bij meer behoudzuchtige geesten felle tegenstand op. De Amerikaanse filosoof Francis Fukuyama noemde het transhumanisme in 2004 'het gevaarlijkste idee van de wereld'. Bostrom op zijn beurt vindt de gedachte dwaasheid dat er een onveranderlijke menselijke natuur bestaat waar we maar beter met onze klauwen vanaf kunnen blijven. Dat de mens aan zichzelf sleutelt, ziet hij als niets nieuws onder de zon. 'Niemand heeft bezwaren tegen brillen of schoenen of scholing, maar tegen genetische modificatie of brein-computerinterfaces wel. Wat is daar zo specifiek aan, wat maakt het anders? Naar mijn overtuiging is het niet erg vruchtbaar voor of tegen mensverbetering te zijn. Je moet naar specifieke verbeteringen in specifieke sociale contexten kijken.'

Uw tegenstanders voorzien dat het tot een grotere uniformiteit zal leiden.
'In bepaalde dimensies misschien. Iedereen zal gezond willen zijn. Dus er zal mogelijk meer uniformiteit in gezondheid zijn. Maar mensen kleden zich nu veel diverser dan in de dagen waarin we allemaal boeren waren.'

Zijn er verbeteringen die niet wenselijk zijn?
'Ja, veranderingen die alleen jouw positie ten opzichte van anderen verbeteren, maar geen waarde op zich hebben. Sportdoping is een voorbeeld. Als iedereen het neemt, hebben we er niets mee gewonnen.'

Voor intelligentie geldt dat niet?
'Het is positioneel in de zin dat het je makkelijker maakt op school te excelleren en een goede baan te krijgen. Maar zelfs als het dat effect niet had, zou ik de wereld beter willen begrijpen en over het vermogen willen beschikken klassieke literatuur te lezen en empathie te voelen. Dat zijn aspecten van intelligentie die een intrinsieke waarde hebben. Als je zegt dat het er niet toe doet hoe slim iedereen is, stel je dan eens voor dat we lood in het kraanwater doen zodat iedereen een beetje dommer wordt. Zeg je dan nog steeds: maakt niet uit? Precies dezelfde reden als we hebben om tegen een kleine afname in intelligentie te zijn, hebben we om voor een kleine toename te zijn. '

In een door u samengesteld boek over mensverbetering rept een auteur van een morele verplichting van ouders bij IVF embryo's te selecteren met de grootst mogelijke kans op een goed leven, als we een keer zicht hebben op de genetische factoren die daaraan bijdragen. Bent u het daarmee eens?

'Eh. Het wordt een beetje gecompliceerd als je moet kiezen tussen een embryo waarvan je denkt dat die het gelukkigste leven zal hebben en een ander waarvan je denkt dat die een grote bijdrage zal leveren aan de wereld en een derde die alleen ziek zal zijn en een ellendig leven zal leiden. Het zou fout lijken om de derde te kiezen. Maar de eerste twee zijn allebei toelaatbare keuzes.'

Als ik nu denk dat het goede leven goed kunnen boksen inhoudt, ben ik dan vrij een embryo met maximaal bokstalent te kiezen?
'Er kunnen principiële redenen zijn om de keuzeruimte van ouders te beperken. Als ouders een slaaf willen die hen als ze oud zijn kan verzorgen en er was een gen dat aanleg gaf tot gehoorzaamheid, dan zou je dat misschien willen verbieden. Maar ik denk niet dat je dat moet doen voor het probleem zich echt aandient. Ik stel mij voor dat de meeste ouders het beste voor hun kind willen en geen prijs stellen op een kindslaaf.'

De praktijk toont aan dat mensen niet altijd verstandig kiezen. In landen als India en China is een enorm overschot aan mannen.
'Je kunt je voorstellen dat de staat sekseselectie verbiedt of een belasting heft op het selecteren van mannelijke embryo's om de balans te herstellen. Aan de andere kant is het gevaarlijk als de staat een eugeneticapolitiek heeft en besluit hoeveel mensen er van verschillende soorten mogen zijn. Het kan zo zijn dat mensen keuzes maken die sociaal gezien onwenselijk zijn. Maar het is nog altijd minder riskant om heel veel verschillende mensen te hebben die heel veel verschillende keuzes maken dan alle macht te centraliseren in een overheidscomité voor eugenetica.'

Bostroms plan van aanpak is eerst de menselijke intelligentie op te krikken, om te zorgen dat we de wijsheid hebben om te weten hoe we willen leven en de juiste keuzes maken voor mensverbetering. Momenteel werkt hij aan een boek over de mogelijkheid van een intelligentie-explosie. Hoe lang het nog duurt, durft hij niet te zeggen, maar er komt een tijd dat iemand met het verstand van Nick Bostrom als een dom blondje geldt. Stap één is dat de whizzkids een kunstmatige intelligentie weten te scheppen die niet alleen goed is in schaken, maar een brede intelligentie in zich herbergt die het menselijke niveau evenaart. 'Als je eenmaal een zeker niveau hebt bereikt, kun je een intelligentie-explosie krijgen gedurende welke je in korte tijd springt van iets wat op het niveau van de mens staat naar iets wat vele malen hoger staat. Dat betekent dat het cruciaal is dat dit een gecontroleerde detonatie is.'

Nu is hij aan het onderzoeken wat de ideale begincondities zijn. Op het whiteboard staat een ingewikkelde reeks formules die er wellicht mee te maken hebben. Maar Bostrom wil niet uitleggen wat ze te betekenen hebben. 'Ik heb er ook nog niet helemaal vat op.' Wel weet hij dat het een race tegen de klok is. 'Het risico is dat iemand bedacht heeft hoe je haar kunt scheppen voordat we weten hoe je kunt zorgen dat ze een goedaardige intelligentie wordt.'

Wat is het gevaar?
'Als we machines kunnen ontwerpen die de mens overtreffen in intelligentie, is dat een van de grote existentiële risico's waarvoor we staan. Waarom zijn wij de toneelmeesters op dit moment? Hebben we scherpere tanden, rennen we sneller? Ontegenzeggelijk zijn het onze breinen die de complexe samenleving mogelijk hebben gemaakt. We moeten daarom aannemen dat een intelligentie die scherper is dan wij in een zeer machtige positie is om de wereld in te richten naar haar verlangens. Als het floreren van de mensheid daar niet toe behoort, zou dat een zeer groot risico vormen.'

Als die wezens slimmer zijn, is het in uw wereldbeeld toch helemaal niet erg als de mens verdwijnt?
'Dat hangt ervan af. Intelligentie en motivatie zijn onafhankelijk van elkaar. Het zou een grote vergissing zijn om te denken dat als ze slimmer zijn, ze ook meer goedheid hebben of meer waarde in een morele betekenis. Je kunt je een kunstmatige intelligentie voorstellen die alleen als doel heeft het universum te vullen met zoveel mogelijk paperclips. Deze intelligentie kan zeer scherp zijn in het ontwikkelen van papercliptechnologieën en in het te boven komen van gevaren die zijn plannen bedreigen. Maar het eindresultaat zou totaal waardeloos zijn.'

Maar als die kunstmatige intelligentie wel het hogere leven belichaamt waarnaar u streeft, waarom zou de mensheid dan niet verdwijnen?
'In dit geval zou je kunnen beargumenteren dat ze een voortzetting van de mensheid is. In de ruimte van alle mogelijke zeer intelligente geesten is de geest die iets doet wat wij als betekenisvol ervaren een buitengewoon klein doel. Als we erin slagen dat doel te bereiken, hebben we een groot succes geboekt. Ik ben er niet zo in geïnteresseerd of de mens van straks van vlees en bloed is of uit bits opgebouwd, maar meer of het er een zal zijn waarin fundamentele menselijke waarden zijn gerealiseerd.'

Hoe kunnen we dat beïnvloeden?
'Dat is de cruciale vraag waar wij ons hier de meeste tijd mee bezig houden. Het is een lopend project, maar we hebben al enkele puzzelstukjes. Op dit moment denk ik dat de reductie van existentiële risico's veruit het belangrijkste is om aan te werken. Dat zijn manieren waarop intelligent leven kan verdwijnen of zijn potentieel drastisch kan verminderen. Al is de waarschijnlijkheid daarvan klein, de waarde die op het spel staat is zo enorm.'

Als existentiële risico's zo cruciaal zijn, wat kunnen we dan doen om ze te beperken?
'Er zijn vele manieren. Vandaag de dag zou je kunnen werken voor een internationale vredesorganisatie, de ruimte scannen op bedreigende asteroïden, vroege waarschuwingssystemen voor pandemieën ontwerpen. Het meest kosteneffectief op dit moment is research naar existentiële risico's. Er werken zo weinig mensen aan dergelijk onderzoek, dat vijf of tien mensen meer een enorme oppepper zou geven aan de hoeveelheid aandacht die de mensheid aan dit probleem besteedt. We hebben voor de grap een literatuurstudie gedaan. We ontdekten dat er veel meer wetenschappelijke publicaties zijn over het voorplantingsgedrag van strontkevers dan over het uitsterven van de mensheid. Je zou kunnen zeggen dat de academische wereld een gevoel voor proporties ontbeert.'

De meeste mensen schatten het risico op het verdwijnen van de mensheid als verwaarloosbaar klein in.
'Een paar jaar geleden hebben we een conferentie gehad met enkele topexperts uit de wereld op het gebied van grote risico's - nucleaire proliferatie, pandemieën, aardbevingen, klimaatverandering. Aan het eind hielden we een enquête. Gemiddeld schatten de deelnemers de waarschijnlijkheid dat de mensheid voor het einde van deze eeuw zou ophouden te bestaan op negentien procent in. Dat is alarmerend hoog.'

Bewijst Japan dat we te laconiek denken over risico's?
'Ik weet niet hoeveel je moet afleiden uit een enkel geval. Laten we dit in perspectief zetten. Het dodental is iets van tienduizend, en nog eens ruim tienduizend mensen die vermist worden. Een gruwelijke catastrofe voor Japan. Maar elke dag sterven er honderdvijftigduizend mensen door veroudering. Wat we hier op dit instituut proberen te doen is niet naar de rimpelingen op de vijver van de mensheid te kijken, maar naar de onderliggende dynamiek.'