Literaire Kroniek: Voert de mens een achterhoedegevecht?

In de tijd dat ChatGPT werd ontwikkeld, de technologie die in een mum van tijd antwoord weet te geven op een ingewikkelde vraag, zei Ilya Sutskever, de Chief Scientist van OpenAI, dat met de laatste loot aan het firmament van kunstmatige vermogens, Artificial General Intelligence (AGI), alle grote problemen van de wereld (‘all the problems we have today’), zullen worden opgelost: ziekte, werkeloosheid en armoede.

Ik ben bereid veel van wat de wetenschappers zeggen en uitvinden te aanvaarden, maar het oplossen van de grote wereldproblemen hoort daar niet bij. Gelukkig zegt Sutskever erbij dat met de oplossing van die problemen er ook weer nieuwe bij komen die we niet kunnen voorzien.

Er zullen volgens Sutskever wezens en wapens ontwikkeld worden die ‘volledig autonoom te werk zullen gaan’. Met hun eigen doelen. Technologie wordt door hem als een ‘natuurlijke kracht’ beschouwd, evolutie en technologie zouden verwant zijn. Nietzsche schreef zijn boek Voorbij goed en kwaad waarin hij goed en kwaad van hun absoluutheid ontdeed, OpenAI gaat met AGI ‘voorbij de menselijke intelligentie’.

morele ambitie

Voert Rutger Bregman in zijn volgende week verschijnende boek Morele ambitie geen achterhoedegevecht wanneer hij met voornamelijk menselijke intelligentie de wereld tot ‘een betere plek’ probeert te maken? Bregman wil bij zijn mede-ambitieuzen het verlangen kweken om ‘aan de goede kant van de geschiedenis’ te staan, ‘om het verschil te maken’. Een hoofdstuk in Bregmans boek dat in De Correspondent werd voorgepubliceerd heet ‘Nee, je bent niet goed zoals je bent’. Het zal wel niemand ontgaan dat hier op een seculiere, ongelovige manier staat dat je zondig bent en het tijd wordt dat je je leven gaat beteren.

Mindful en woke zijn volgens Bregman bewegingen die, anders dan morele ambitie, bewustzijn van de problemen in de wereld hoger aanslaan dan actie.

Deze verwantschap met het aloude moralistische christelijke denken in zondigheid en zaligheid is natuurlijk onbedoeld, maar brengt ons wel in verkeerd vaarwater waarin duidelijke paaltjes staan om de juiste koers aan te houden. Dat kan tot het nieuwe vingertje leiden, een moralistische, schuldbewuste samenleving. Bregman leent het begrip ‘sin industries’ om aan te geven dat er zondige bedrijven en beroepen zijn, zoals de promotie van verslavende medicijnen, boekhouders die belastingontduiking faciliteren, verzekeringsagenten die ondeugdelijke ‘financiële producten’ verkopen.

De morele ambitie van Bregman ‘om de wereld drastisch te verbeteren’ gaat gepaard met een herwaardering van een aantal waarden die normaal niet helemaal een onschuldige klank hebben. The School for Moral Ambition, zoals Bregmans beweging met ‘beleidsplan’ en al, is gaan heten, vindt groot denken beautiful, winnen een plicht, succes, ambitie en geld geen door het grootkapitaal besmette woorden. Geld is niet ‘vies.’ Mindful en woke zijn volgens Bregman bewegingen die, anders dan morele ambitie, bewustzijn van de problemen in de wereld hoger aanslaan dan actie. Het moderne protest lijkt niet veel meer dan een verzameling kliks en likes. Bewustzijn moet gevolgd worden door actie, door doen.

onvolmaaktheid

Wanneer Ilya Sutskever zegt dat OpenAI bezig is compleet autonome wezens te creëren, wat betekent dat dan voor de universele waarden van de Verlichting die Susan Neiman verdedigt in haar boek Links is niet woke? Komt AGI er op eigen houtje achter wat vrijheid is? En wat onvrijheid is? En wat te doen met een masochist die het prettig vindt om onvrij te zijn? Hoe subtiel kan AGI zijn als het gaat om een universele waarde als eerlijkheid? Hoe de leugen te ontmaskeren? Ontstaat er interactie tussen twee compleet autonome wezens. Een gesprek? Wanneer noemt een van de twee wezens de ander ‘onverschillig’?

Het hele idee dat het om ‘compleet autonome wezens’ gaat (we denken al niet meer aan zoiets kinderachtigs en ouderwets als ‘robots’), verplaatst de werkelijkheid buiten de menselijke ervaring en sfeer. Als daar sprake van is gaat het ons mensen niet meer aan. We hebben er dan geen aandeel meer in. Hoe subtiel kan AGI zijn? Andere universele waarden als verdraagzaamheid, gelijkheid, rechtvaardigheid, vriendelijkheid en vredelievendheid zijn zelden helemaal zuiver. Hoe dat te herkennen? Er kunnen vreemde bedoelingen (strategie) achter zitten. We moeten de onvolmaaktheid van mensen respecteren. Verdraagzaamheid heeft zijn grenzen, vriendelijkheid kan geveinsd zijn. Het kan niet anders dan een pijnlijke en vruchteloze interactie worden tussen een ‘compleet autonoom wezen’ en iemand van de menselijke soort.

Artificial General Intelligence dreigt het contact met de gewone wereld te verliezen. Een parallelle wereld waar je geen boodschap aan hebt.

Artificial General Intelligence loopt hopeloos voorop. Dreigt het contact met de gewone wereld te verliezen. Wordt een eigen autonome wereld. Een parallelle wereld waar je geen boodschap aan hebt. Maar AGI wil natuurlijk tot onze wereld behoren en zal gaan interveniëren, het doet volgens Sutskever immers alles ‘in our best interest’. Het boek Hoe je een beter mens wordt. Levenslessen van moderne denkers, kan niet verder van Ilya Sutskever afstaan. De schrijver, Henk Smeijsters, geeft als andragoog en cultuurfilosoof samenvattingen van negentien denkers, teruggaand tot Sartre en Camus en naar onze tijd met Yuval Noah Harari en Markus Gabriel. Met Smeijsters ben je terug in de mensenwereld, maar dan meteen op een absurde manier. Op Smeijsters samenvattingen van de verschillende denkwerelden valt niet veel aan te merken, maar elk hoofdstuk eindigt hij, rechtgeaard andragoog zijnde (opvoeding en vorming voor volwassenen), met ‘levenslessen’ ontleend aan de behandelde filosoof. Helemaal losgezongen van psycholoog en filosoof Erich Fromm wordt de lezer tot van alles aangespoord: stimuleer bij jezelf het innerlijk actief zijn. Speel geen rol. Stel je onbevangen, ongekunsteld en kwetsbaar op. Ga open in gesprek met anderen. Laat je verrassen. Toon oprechte interesse in anderen. Luister aandachtig naar muziek. Kijk aandachtig naar kunstwerken. Verwerf op eigen kracht kennis. Stel je eigen mening ter discussie. Lees diepzinnige boeken en voer diepzinnige gesprekken.

Deze braaf paternalistische aansporingen, hoe zinnig op zichzelf ook, heeft iemand die net over de denkwereld van Martha Nussbaum, Hannah Arendt, Peter Sloterdijk of Pankaj Mishra heeft gelezen niet nodig. Die heeft zich verdiept in de plausibele mening van Susan Neiman dat Michel Foucault en Carl Schmitt de twee denkers zijn die de voedingsbodem hebben gelegd voor de huidige om zich heen grijpende polarisatie, Foucault door alles in het licht van macht te zien en de ex-nazi jurist Schmitt door de begrippen vriend en vijand absoluut tegenover elkaar te zetten. Of hij/zij vraagt zich af of Sloterdijk gelijk heeft door de hedendaagse samenleving ‘een absolute frivoliteitscultuur’ te noemen. En zijn we daardoor op weg naar de apparatenmens die ‘libidineus verknocht’ is aan zijn smartphone en ander vernuft? Het is alsof de iPhone een levend ding aan het worden is. Daarom noemt Sutskever de technologie ‘een natuurlijke kracht’, er is niets onnatuurlijks aan, het is een onderdeel van de evolutie.