‘Menselijke robots zullen ingezet worden in liefdesrelaties en ouderenzorg’

Nee, heel vrolijk word je niet van zo’n gesprek met universitair hoofddocent Bart van der Sloot. Vooropgesteld: het is een ontzettend sympathieke, gepassioneerde man. Toch verliet ik zijn werkkamer aan de Tilburg University een beetje gedesillusioneerd.

En dan bekijkt hij de boel nog door een redelijk nuchtere en realistische bril. In zijn zojuist verschenen boek Regulating the Synthetic Society werpt hij geen dystopische vergezichten op, maar houdt hij het klein, het vizier gericht op wat waarschijnlijk is in de nabije toekomst. Hij beschrijft hoe generatieve kunstmatige intelligentie – seksrobots bijvoorbeeld, en tools als ChatGPT – steeds dominanter zal worden binnen onze samenleving, en hoe de content die ermee wordt gecreëerd straks niet of nauwelijks meer te onderscheiden zal zijn van menselijke uitingen. Een van zijn zorgen is dat er dan reality fatigue ontstaat, een soort onverschilligheid voor wat waar is en wat niet.

Little Princess Syndrome

Generatieve kunstmatige intelligentie laat zich niet precies definiëren of afbakenen. Van der Sloot bespreekt in zijn boek vier van deze technologieën: menselijke robots, deepfakes, augmented reality en virtual reality. De technologische ontwikkelingen binnen die velden volgen elkaar in zo’n rap tempo op, dat de ethische en juridische vragen die ermee worden opgeworpen vaak nog niet te beantwoorden zijn.

‘Experts verwachten dat over drie a vier jaar 90 procent van alle online content door AI gemanipuleerd is.’

Voordat ik daar een paar voorbeelden van geef, wil ik het nog even hebben over Bart van der Sloot zelf. Ik interviewde hem zes jaar geleden voor de universiteitskrant. Hij stond toen al bekend als groot talent en deed voornamelijk onderzoek op het gebied van technologie en recht, privacy en big data. In de tussentijd heeft hij een rits aan nieuw onderzoek gepubliceerd, diverse boeken geschreven, rapporten voor de overheid gemaakt – bijvoorbeeld over deepfakes – en wetenschapsprijzen gewonnen, waaronder onlangs de KNAW Early Career Award (2023). Toen ik hem in 2018 interviewde, was hij, na zeven jaar aan de Universiteit van Amsterdam te hebben gewerkt, net begonnen in Tilburg. Het interview ging niet over privacy, recht of big data, maar over de nieuwe generatie studenten. Het viel hem op dat er steeds minder studenten waren die écht graag wilden weten hoe het zat, en bijvoorbeeld tijdens colleges de discussie met hem opzochten. En wanneer hij literatuur opgaf die studenten moesten voorbereiden voor het volgende college, zodat ze daar vervolgens op konden verder bouwen, wist hij al: het gros gaat dit helemaal niet lezen.

Alhoewel er elk jaar weer een aantal ‘supertalenten’ tussen zaten, zag hij ook hoe steeds meer studenten het liefst met zo min mogelijk inspanning hun diploma wilden halen. Ze bedienden zich van een calculerende houding, zonder passie of bezieling, maar begonnen wel te klagen wanneer ze dan geen goed cijfer haalden. Het Little Princess Syndrome noemde hij dat plagerig.

Waarom schrijf je dit nu op, denkt u nu misschien als lezer. Ik kom er later op terug. Eerst de beloofde voorbeelden.

AI-Napoleon

Is een politicus die via AI het dialect of de taal van elke minderheidsgroep in zijn land spreekt goed in termen van inclusie of bedrijft die een moderne vorm van kiezersbedrog? Is het kunnen praten met je partner die is overleden goed voor de geestelijke gezondheid of slecht omdat het de ‘normale’ route van rouwverwerking verstoort? Is het te verantwoorden dat de politie kinderavatars en deepfake-kinderporno inzet om te infiltreren in pedofiele netwerken? Of zijn ze dan juist zelf schuldig aan het produceren van kinderporno?

En een levensechte AI-Napoleon die geschiedenislessen geeft aan scholieren: goed omdat het meer betrokkenheid oproept? Of slecht omdat ze daardoor wennen aan een ‘post-truth samenleving’? Nog eentje: vergroten deze technologieën de verschillen tussen arm en rijk omdat de rijken makkelijker toegang hebben tot de beste tools? Of is er juist sprake van een tegengesteld effect, omdat het uitbesteden van complexe en ‘vervelende’ dagelijkse taken de ontwikkeling van een volwaardige persoonlijkheid – die kan omgaan met tegenslag en rijke ervaringen opdoet – belemmert? En moeten we daar dan iets mee?

Veel vragen. Eens kijken of we ook wat antwoorden kunnen ophalen.

Hoe groot gaat generatieve AI worden?

‘Dat blijft gissen. Maar het gaat in elk geval heel snel nu. Het is de technologie die het meest in ontwikkeling is. In Europa is daar nog niet heel veel aandacht voor, maar in Amerika is het écht een gespreksonderwerp. De technieken zijn natuurlijk niet allemaal volstrekt nieuw, maar de schaal waarop het gebeurt – in combinatie met de kwaliteit van de content – is anders dan we gewend waren. En als je dan ziet wat erin geïnvesteerd wordt, en dat de ontwerpers ervan zelf zeggen: “Pas op met deze techniek, want het kan wel heel gevaarlijk worden”, tsja, dan gaat dit wel groot worden, denk ik.’

‘Wat gaat het met de samenleving doen wanneer een groot aantal mannen een seksrobot of liefdesrobot zou gebruiken?’

Wordt het net zo ontwrichtend als het internet? 

‘Misschien gaat het onze manier van leven nog wel meer beïnvloeden. Het internet is in essentie een manier om contact te leggen met mensen, informatie te delen. Een uitbreiding van wat er al was. Terwijl menselijk contact nu vervangen kan worden door een robot, bijvoorbeeld. In die zin was internet een meer menselijk gebeuren, terwijl generatieve AI menselijke creativiteit en sociale contacten kan vervangen. Dat is potentieel destructiever.’

Heeft u daar een voorbeeld van?

‘Menselijke robots zullen waarschijnlijk vooral ingezet worden in liefdesrelaties en de ouderenzorg. Daar wordt al veel mee geëxperimenteerd. Wat gaat het met de samenleving doen wanneer een groot aantal mannen een seksrobot of liefdesrobot zou gebruiken? Zo’n relatie is fundamenteel anders dan een menselijke, omdat de robot er is om jou te plezieren en bedienen. Het voedt de macho male-benadering: de robot is er om seks te geven, schoon te maken, te koken, heeft altijd zin, zegt nooit nee. Misschien heb ik een te pessimistisch beeld van de man, maar ik denk dat er best veel mannen zijn die dat intuïtief wel fijn zouden vinden. Het kan zo dus ook een standaard creëren van hoe het eigenlijk zou moeten zijn. Menselijke partners concurreren dan met een liefdesrobot, direct of indirect.

Ook binnen de ouderenzorg kan het behoorlijk disruptief uitpakken. Voor ouderen is het leven vaak nog de moeite waard vanwege de persoonlijke relaties. De sociale zorgrobot – die liedjes kan zingen, een gesprek kan voeren – wordt ingezet om eenzaamheid tegen te gaan. Het zou mij alleen niets verbazen wanneer kinderen en kleinkinderen, met hun drukke levens, daardoor denken: oma heeft de zorgrobot al, ik sla mijn bezoek maar weer een weekje over. Daarbovenop komt dat grote techbedrijven via deze weg makkelijk veel data kunnen verzamelen en zelfs zeggenschap kunnen krijgen over morele vraagstukken. Want: wat als opa seks wil met zijn zorgrobot? Of oma vier keer per dag wil douchen, of weigert te eten omdat ze dood wil? Wat doet zo’n robot dan? Laat die dat allemaal toe? Of wordt er een signaal gegeven aan een zorgverlener? En wie bepaalt dat? Oma? De familie? De zorginstelling? Of toch het techbedrijf?

Wat dat betreft zie je ook daarin een verschuiving optreden in hoe technologie onze autonomie beïnvloedt. Voorheen was technologie transparant voor ons. Onze handelingsbekwaamheid werd bevorderd door de bril, het gehoorapparaat, we snapten hoe dat soort dingen in elkaar staken, konden zelfs onze niet-elektrische auto nog wel repareren. Synthetische technologieën zijn minder gefocust op die zelfbeschikking. Ze zijn ondoorgrondelijk, vooral gericht op data verzamelen. Techbedrijven verstevigen daarmee hun machtspositie en oefenen tegelijkertijd controle uit op het individu.’

Er lijkt ook een verwenningselement in te zitten. 

‘Je zou kunnen zeggen: de westerse geschiedenis is er een van frictie wegnemen. Deze technologieën slaan daar wel heel erg in door. Terwijl die frictie, dat is ook het leven. Dat het niet altijd lekker gaat. Persoonlijk contact is soms lastig, je hebt iets gezegd en dat valt niet goed bij die ander. Het is intuïtief heel makkelijk om daarvan weg te blijven, maar de menselijke ontwikkeling schuilt ook in juist die hobbels nemen. Als alle frictie verdwijnt, worden we wel heel eendimensionaal.’

Een belangrijk thema in uw boek is daarnaast dat het steeds moeilijker wordt om echt en nep van elkaar te onderscheiden.  

‘Daar ben ik bezorgd over. Het is goed mogelijk dat je straks, wanneer je iets ziet op sociale media of een video call krijgt van een vriend of je ouders, ten diepste niet meer weet of dat waar en echt is, of niet. Dat zou betekenen dat er een enorme angst in de samenleving sluipt, een fundamentele onzekerheid. Je ziet nu al dat mensen zich terugtrekken en afschermen van de gedeelde werkelijkheid. Dat gaat meer gebeuren, verwacht ik, omdat het een manier is om dat waar je geen vat op kan krijgen, buiten te sluiten, en te leven in een wereld – bijvoorbeeld in een virtuele realiteit, of “eigen bubbel” – waar je de controle over kunt behouden.’

Hoe ver zitten we al in dat proces?

‘Wat erg veelzeggend is, en wat mij zeer verbaasde, is dat er vanuit AI-bedrijven al wordt gezegd dat ze hun AI-modellen alleen nog maar laten trainen op data van vóór 2022, omdat er online nu al zo veel AI-gegenereerde content rondzwerft. Die modellen willen ze natuurlijk laten leren van mensen, om een feedbackloop te voorkomen.

Ik heb een aantal experts geïnterviewd, waaronder Manon den Dunnen, dé expert op het gebied van deepfakes, die verwachten dat over drie à vier jaar 90 procent van alle online content in elk geval deels door AI gemanipuleerd is. Ik geloof ook dat het in die orde van grootte zit. Het gaat dan ook om kleine manipulaties die bijvoorbeeld zitten ingebakken in mobiele telefoons, waarvan veel camera’s tegenwoordig deels AI-gestuurd zijn en dus “weten” hoe dingen eruitzien. Ze zien een object, hebben een vooraf ingesteld idee van hoe zo’n object eruitziet, herkennen het dus, en mengen dat idee vervolgens met wat ze registreren. Wanneer je dan een bos fotografeert, “weet” je camera dat bossen groen zijn, en soms wordt er dus ook een foto gegeneerd van een groen bos, ook als dat bos feitelijk in brand staat. Een ander voorbeeld is dat je huid vaak egaler wordt gemaakt door videobeldiensten. Dat gaat automatisch. Dat is meestal geen probleem, maar dat verandert wanneer je een online consult afneemt bij een dermatoloog. Dan kan dat heel vervelend zijn, gevaarlijk, zelfs. Kleine manipulaties kunnen in specifieke contexten grote gevolgen hebben.’

‘In een minuut of twee heb je een heel realistische deepfake-porno van iemand. het is wachten tot het ook hierbij een keer fout gaat.’

En daar komen deepfakes nog bovenop.

‘Deepfakes gaan een groot deel van onze werkelijkheid bepalen en veel invloed uitoefenen op het “post truth-tijdperk”. Want de waarheid, of een gedeelde versie van de waarheid, is de basis voor onze democratie en rechtstaat en onze persoonlijke contacten. Als je elkaar niet begrijpt en verstaat, ontstaat er enorme polarisatie – zie de pandemie. Op scholen zie je nu – en de politie wil daar niet te veel ruchtbaarheid aan geven, uit vrees dat het inspireert – steeds vaker dat er deepfake-porno wordt gemaakt en verspreid van meisjes. Iedereen weet dat het nep is, maar dat doet voor de reputatie van zo’n meisje niet ter zake. Ze is een slet of hoer. En ook als zij zichzelf ziet in zo’n video, in allerhande extreme posities, doet dat wat met haar zelfbeeld, hoewel het niet echt is. Dat is heel zorgwekkend. De geschiedenis is bezaaid met zelfmoorden van meisjes van wie seksuele video’s werden verspreid. Het klinkt cru, maar het is wachten tot het ook hierbij een keer fout gaat. Het gevaarlijke eraan is vooral dat het zo makkelijk is om te maken. In een minuut of twee heb je een heel realistische deepfake-porno van iemand.

Veel jongens vinden het grappig, of geil, of wat dan ook, en hebben niet door hoe groot de gevolgen zijn. Ook voor de maatschappelijke positie van vrouwen: het draagt bij aan de verdere seksualisering van het vrouwenlichaam, bevestigt onrealistische schoonheidsidealen en is stigmatiserend. Het roept ook juridische vragen op. Als je als privépersoon vanachter je computer een deepfake maakt, ben je niet altijd strafbaar, en de politie zal zeker niet zomaar ingrijpen. Op het moment dat je het verspreidt onder een grote groep waarschijnlijk wel. Maar dan is het al te laat. Dus het productieproces wordt helemaal vrijgelaten, en vervolgens, wanneer je daar op kunt reageren, is de schade al gedaan. Die beelden verdwijnen niet meer van het internet, blijven iemand haar hele leven achtervolgen.’

U beschrijft ook hoe deepfakes in rechtszaken tot absurde situaties kunnen leiden. 

‘Als over een paar jaar bijna alle content gemanipuleerd is, is het argument: “Ja, maar de rechter heeft nepbewijs of deels onwaar bewijs meegenomen in de besluitvorming” helemaal niet uit te sluiten. De technologie die manipulaties uit content vist, is helemaal niet zo goed, die haalt 50 tot 60 procent eruit, en dan vaak ook nog met betrouwbaarheidspercentages, dus dan krijg je: “De kans is 70 procent dat deze content is gemanipuleerd.” Wat moet je daar dan mee als rechter? De politie en de rechterlijke macht zijn daar erg bezorgd over. In Nederland is er ook al een voorbeeld van. Tijdens een voogdijzaak had de moeder een video van een schreeuwende vader ingebracht en die bleek nep te zijn. Dat was nog te achterhalen. Straks misschien niet meer.’

Wat kun je daaraan doen als overheid?

‘Dit soort problemen zouden een trigger moeten zijn om de samenleving beter in te richten, maar er worden nauwelijks maatregelen getroffen. Ik vind het bewijsrecht bijvoorbeeld heel slecht geregeld. Daar hebben we rechters over geïnterviewd. We vroegen of ze ingebracht bewijs controleerden op authenticiteit, en hoe ze dat deden, met welke standaard. Het antwoord was dan: “Nou ja, dat zie je meestal wel, als niemand klaagt zal het wel goed zijn, je voelt dat een beetje aan.” Dat kan beter, lijkt me. Zo zou je kunnen zeggen dat er alleen geauthentiseerd bewijsmateriaal gebruikt mag worden. Niet iedereen is in staat om te zeggen dat een video gemanipuleerd is. Je kunt bijvoorbeeld heel dronken zijn geweest en je niet meer alles herinneren. En soms worden mensen veroordeeld zonder dat ze aanwezig zijn tijdens de zitting.’

Hoe is ons rechtssysteem in algemene zin toegesneden op deze nieuwe realiteit?

‘Veel rechtsgebieden zijn niet goed op deze ontwikkelingen afgesteld. Ze zijn zelfs al niet zo goed ingesteld op het internet en sociale media. Daarom wordt nu vaak gedacht: hadden we maar eerder ingegrepen, dan hadden we veel schade kunnen voorkomen. Het gros van het recht laat heel veel toe en is niet specifiek genoeg voor moderne technologie. Wat me vooral zorgen baart, is dat het rechtssysteem zo rond de jaren negentig, in neoliberale tijden, heel erg op het individu geënt is geraakt. Met een goede gedachte: geef dat individu nou kennis, rechten en macht, dan hoeft de overheid hem niet meer te beschermen – wat paternalistisch en verstikkend kan zijn – maar kan hij dat zelf allemaal regelen.

Daar moeten we niet per se vanaf, maar we komen er nu wel achter dat veel grote maatschappelijke vraagstukken – milieuvervuiling, institutioneel racisme – niet door het individu bestreden kunnen worden. Die staat machteloos tegen dit soort systemen, of bijvoorbeeld tegen grote techgiganten die zijn privacy schenden, en kan daarnaast alleen opkomen voor zijn eigen belang. We zouden ook best wat vaker het precautionary principle mogen toepassen op technologie. Dus als je nog niet goed weet of iets veel schade gaat doen, dan doe je het niet.

Dat principe hebben we in veel rechtsgebieden omarmd. We brengen bijvoorbeeld geen medicijnen op de markt als we de effecten nog niet helemaal kunnen doorgronden. Bij technologie kun je misschien iets minder voorzichtig zijn, maar als de mogelijkheid bestaat dat deepfakes heel veel schade gaan veroorzaken, moet je ze misschien even on hold zetten. Daarom zou je heel goed kunnen nadenken over een meer fundamentele herziening van het recht. Bijvoorbeeld door als overheid met regelgeving eerder in het proces te gaan zitten, een beetje zoals we dat met auto’s doen. Al zou je het willen, je kunt geen onveilige auto kopen. Op die manier zou je de ontwikkeling van AI ook kunnen benaderen. Want het gaat de realiteit bepalen. En daar moeten we over nadenken. Hoe willen we dat reguleren en inkaderen? Dat is de relevante vraag. In Europa beginnen ze nu overigens op stoom te komen. In de AI-act die eraan komt, worden wat toepassingen beperkt. Maar het is wel een traditie om technologie zo vrij mogelijk te laten. Geweren en atoomenergie, dat hebben we echt aan banden gelegd. Voor de rest is het: gooi maar op de markt en zie maar.’

‘Bij sommige ambtenaren is een cultuur ontstaan van: we doen helemaal niets tot het écht fout gaat.’

Verbaast u dat?

‘Ik vind het merkwaardig dat het marktdenken in Europa nog zo dominant is. Dat het zo gaat in Amerika, oké, dat past bij die cultuur, laat ze in Silicon Valley maar lekker al die AI-producten ontwikkelen, maar waarom kunnen wij als Europa geen alternatief voor Twitter neerzetten, bijvoorbeeld? En eigen, publieke zorgrobots? Dan kun je gewoon zorgen dat die ethische standaarden erin gebakken zitten.’

Waarom is ons rechtssysteem niet al eerder grondig gerenoveerd?

‘De politiek is vaak incident-gedreven, dus daar heb ik niet heel veel vertrouwen in, al heb ik groot respect voor Tweede Kamerleden die vaak over tien dossiers iets moeten weten. Die hebben ook helemaal geen tijd om hierin te duiken. Daarom moeten de ambtenaren zeggen: joh, minister, dit is nu nog geen probleem, maar over vijf jaar wel. Dus we moeten alvast wetten aannemen. Alleen bij die ambtenaren is een soort cultuur ontstaan van: we doen helemaal niets tot het écht fout gaat. En dat stoort mij. Het is een labbekakken-houding, zo van: we laten het lekker hoe het is, en als er een keer een probleem is, reageren we daarop.’

Zie ik daar nu weer de luie student – het Little Princess Syndrome – van zes jaar geleden opdoemen? Zouden die studenten nu allemaal als ambtenaar bij het ministerie van Veiligheid en Justitie werken?

‘Dat zou je bijna denken, hè. Nou, laat ik nog maar eens over die deepfakes beginnen: het was al heel lang duidelijk dat dat een probleem was. Nederland deed daar niets aan. Het ministerie van Veiligheid en Justitie vroeg uiteindelijk een rapport aan. Daarin beschreven we een aantal alarmerende zaken, waar eenvoudig iets aan gedaan kon worden. Het duurde bijna twee jaar voordat we een reactie kregen en het antwoord was: we doen helemaal niets, behalve een meldpunt opzetten voor slachtoffers van deepfake-porno. Je wilt het dan gewoon echt niet. En dat is dan slechts één voorbeeld. Het speelt binnen het hele domein van technologie. Er heerst bij die ambtenaren een soort intellectuele luiheid, of morele lafheid, ik weet niet precies wat het is.

Terwijl: we zouden ons rechtssysteem binnen pakweg twee jaar fundamenteel kunnen herzien. De overheid heeft jarenlang rapport na rapport aangevraagd en daar bovenop nog een stapel ongevraagde adviezen gekregen. Van ons, van andere wetenschappers, van de Raad van State, van het Rathenau Instituut, van de Wetenschappelijke Raad voor Regeringsbeleid, noem ze allemaal maar op. Er worden daarin concrete aanpassingen voorgesteld op het gebied van strafrecht, privacyrecht, enzovoorts, al dat denkwerk is al gedaan, dat ligt klaar, het is een kwestie van een keer bundelen, bespreken hoe dat gaat worden ingepast, wat wordt wel doorgevoerd, wat niet. Het moet gewoon eens serieus worden genomen.’