DANIEL Deenen

Regeltechnicus en promovendus TU Eindhoven

‘Voor de meeste taken zullen mensen vervangen worden door robotica, denk ik, tenzij er echt een reden is om een mens aan te houden. Op welke termijn, dat hangt af van de techniek en de snelheid van ontwikkelingen. In autofabrieken is het al gebeurd. Van handenarbeid zal werk zich steeds meer naar andere sectoren bewegen.

Als regeltechnicus zit ik aan de goede kant, omdat ik een van degenen ben die algoritmen maakt. Zo heb ik in mijn PhD-onderzoek algoritmen gebouwd waarmee oncologen tumoren tot exact de juiste temperatuur kunnen verwarmen, wat de effectiviteit van een behandeling flink kan verbeteren. Het algoritme controleert de temperatuur elke paar seconden, stelt bij waar nodig, en wordt zo direct beter. Dat kun je van een mens niet vragen.

Ik denk dat algoritmen in de medische sector steeds meer taken gaan vervangen en uiteindelijk zelfs operaties uitvoeren

Algoritmen kunnen heel waardevol zijn in het ondersteunen van artsen door hun bovenmenselijke precisie, snelheid, reproduceerbaarheid en verwerking van enorme hoeveelheden data. Maar ontzettend belangrijk bij het behandelen van mensen zijn ook verantwoordelijkheid, ethiek, aandacht voor patiënt-specifieke nuances en emotioneel inzicht. Ik denk dat algoritmen in de medische sector steeds meer taken gaan vervangen en uiteindelijk zelfs hele operaties uitvoeren, maar voorlopig zullen ze niet de arts vervangen. Algoritmen kunnen de arts tijdrovende taken uit handen nemen en bovenmenselijke dingen toevoegen. De focus van de arts zal steeds meer verschuiven naar die dingen waarbij menselijke beslissingen noodzakelijk zijn.’

Lees de eerdere afleveringen van De Grote Vraag via de auteurspagina van Zwaan Lakmaker.

Rinke Oostra
Gebiedsmakelaar bij Gemeente Amsterdam (Stadsdeel Centrum)

‘Als gebiedsmakelaar kom ik juist in beeld bij structurele problemen die door geautomatiseerde processen niet kunnen worden opgelost. Het woord “makelaar” in de naam van deze functie gaat over het verbinden van mensen. Als bewoners initiatieven hebben, of klachten die ze nergens anders kwijt kunnen, leg ik verbindingen tussen hen, de gemeente en zo nodig bedrijven in de buurt. In het centrum van Amsterdam spelen zoveel dingen op dezelfde vierkante meter – dat kun je niet allemaal met een klachtenformulier vangen.

Toen een jaar of vijf geleden hier voor het eerst een kade instortte, werd er een brief verstuurd: er verdwijnen twintig parkeerplaatsen en we kappen vijf bomen om de boel te kunnen herstellen. Nou, toen brak de hel los. Terwijl: als je weet dat parkeerplaatsen en bomen de meest gevoelige dingen zijn in het centrum, dan weet je ook dat je het beter moet brengen – of in elk geval echt meer moeite moet doen om bomenkap te voorkomen. Dat doen we nu wel anders. In theorie kun je dat automatiseren door knelpunten te laten terugkomen in een voorgesorteerde brief. In de praktijk ben je lichtjaren verder voor de gemeente zoiets heeft.

Er zijn steeds meer geautomatiseerde processen: je kunt meldingen doen via de site en een app en ik kan uitdraaien maken van de top-tien klachten. Toch merk ik dat dat niet het hele beeld geeft. Door veel met bewoners en ondernemers te praten, weet je bijvoorbeeld dat laden en lossen in de binnenstad een heel groot probleem is. Er is te weinig ruimte, en dus staan er busjes op de stoep of rijbaan. Maar dat zie je nooit terug in de meldingen. Waarom niet? “Dan komt er over drie dagen misschien eens een handhaver,” hoor ik veel. En: “Ik ga niet overal een melding van zitten maken.” Er gebeurt heel veel vóór iets een meldingssysteem bereikt.’

Jaap Mengers
Software engineer bij Q42

‘Ik zie dit als twee vragen: wanneer word ikzelf vervangen, en wanneer vervang ik andermans werk met mijn werk? Wat de eerste vraag betreft: ik denk dat kunstmatige intelligentie (AI) nog lang niet zo ver is dat het een wezenlijke impact gaat hebben op mijn werk. Bij het puur technische aspect ervan, het programmeren, kijken we wel of we met AI code kunnen genereren die een nauw gedefinieerd probleem oplost. Maar een heel groot deel van mijn werk is bepalen wat een product moet zijn, samen met de klant. Dit vak bestaat voor een groot deel uit vragen stellen. Vaak gebruiken we geen AI, uiteindelijk. Wanneer een klant zegt: “Ik zit op een bak met data, is het interessant om daar iets mee te doen?”, zitten we in een “oplossing-zoekt-probleem”-achtige situatie die me doet denken aan het internet eind vorige eeuw, toen men zich afvroeg: “Hoe kunnen we dit nieuwe medium gebruiken?”

Wie neemt de verantwoordelijkheid om de beslissingen van algoritmes te verdedigen?

Dan het tweede aspect van de vraag: welk werk neemt AI uit handen, en wat zijn daarvan de ethische gevolgen? Denk aan programma’s voor predictive policing – zelfs als je etniciteit niet markeert als belangrijke variabele, kan het zijn dat het programma iets vindt over inkomens of een wijk en dat terugleidt tot etniciteit. Daar kunnen best heftige dingen uitkomen, waarbij je slecht kunt bepalen hoe het model daar precies toe gekomen is. Wie neemt dan de verantwoordelijkheid om zo’n beslissing te verdedigen?’

Rutger Rombeek
Jaarroostermaker, examensecretaris en docent biologie op Hervormd Lyceum Zuid (Amsterdam)

‘Misschien komt er uiteindelijk een computer die zelfstandig jaarroosters kan maken, maar ik zie het niet snel gebeuren. Om te beginnen zijn er alle randvoorwaarden die je moet invoeren. De school waar ik werk, heeft een relatief klein gebouw met veel leerlingen, plus veel docenten die in deeltijd werken. Als je op een afdeling honderd leerlingen hebt, kunnen er zo zeventig vakkenpakketten zijn. En stel dat je het wél automatisch laat invullen, dan ben je er nog niet met één druk op de knop. Roosterprogramma’s kijken wat het beste rooster oplevert met zo min mogelijk negatieve dingen. Maar het rooster dat overall de minste “strafpunten” heeft, kan best voor een paar leerlingen buitensporig veel tussenuren opleveren.

Als mens beoordeel ik: is het acceptabel, of ga ik op zoek naar een alternatief, waarbij de pijn eerlijker verdeeld is? Bovendien worden roosters steeds individueler. Nu al sprokkelt een leerling er soms een vak bij uit een hoger jaar, en we gaan er naartoe dat leerlingen echt op verschillende niveaus vakken kunnen volgen. Het wordt dus nog een stuk complexer.’

Alle romanschrijvers kunnen opgelucht ademhalen, de dichters hebben het wat moeilijker.

Inger Leemans
Hoogleraar cultuurgeschiedenis (VU) en hoofdonderzoeker NL-Lab (KNAW Humanities Cluster)

‘We zijn al decennia bezig met de inzet van computertechnieken om collecties te digitaliseren en nu, in tweede instantie, om intelligente manieren te bedenken om die collecties te bevragen en connecties te maken tussen verschillende datasets. Dat doen computer-engineers, maar eerst moeten de systemen worden gevoed met expertkennis. De computer kan aan de slag op basis van patronen die jij als historicus hebt blootgelegd, bijvoorbeeld lichamelijke uitingen van emoties die beschreven zijn in vroegmoderne theaterstukken: vuisten ballen, haren uittrekken. En dan kun jij de uitkomsten analyseren. Door AI kan dat op een veel dieper niveau, met datasets in allerlei talen en vormen aan elkaar verbonden.

Maar de historicus is er niet alleen voor input en analyse. Je moet ook voorkomen dat de algoritmen teveel vooringenomen zijn, en bijvoorbeeld leunen op dat wat veel bewaard is gebleven in plaats van op wat veel voorkwam maar weinig is bewaard, zoals pornoboekjes. Of om de visuele vooringenomenheid die in onze cultuur is geslopen recht te trekken – met genoeg aandacht voor reuk, tast en smaak. Er werd in de vroegmoderne tijd veel over geur gesproken en geschreven, en er was dus ook een veel groter vocabulaire voor. Dat is verdwenen, en we zijn het analyseren van die zintuigen vrijwel verleerd. Terwijl mensen allemaal deel uitmaken van geurgemeenschappen: van wierook in een katholieke kerk tot de specifieke geur van kantoor. Wat we proberen te doen met het project Odeuropa, is door middel van algoritmen historische geuren in kaart te brengen. Er is meer dan genoeg te doen.’

Ronald Giphart
Schrijver van o.a. Alle tijd (2019) en ‘De robot van de machine is de mens’, een samen met een robot geschreven hoofdstuk bij de heruitgave van Isaac Asimovs Ik, Robot (1950) in het kader van Nederland Leest in 2017

‘Nou, ik denk dat ik al gedeeltelijk door een algoritme ben vervangen. In de zin dat ik, om synoniemen en de etymologie van bepaalde woorden op te zoeken, vaar op de algoritmen van Google. Maar dat is op woordniveau. Het gaat nog lang duren voordat een algoritme een tekst kan schrijven op het niveau waarop een romanschrijver dat doet. Voor het extra hoofdstuk dat ik schreef bij Ik, Robot van Isaac Asimov (1920-1992), gebruikte ik een nieuw algoritme dat tienduizend boeken had gelezen en zichzelf via deep learning had geleerd om te schrijven. Deze “Asibot” kon zinnen schrijven met een spanwijdte van tweehonderd leestekens, die ik aanvulde en waar nodig aanpaste om het logisch te maken.

Want zoals een algoritme nu werkt, zit er geen doel in. Dat kan soms goed uitpakken. Poëzie heeft vaak een mysterieuze onduidbaarheid en zo kunnen door een algoritme gemaakte gedichten of rapteksten de Turingtest – de vraag of iets dat door een computer is gemaakt voor menselijk werk kan doorgaan – wel doorstaan. Algoritmen kunnen geen overzicht houden op de opbouw of vooruitzien in de toekomst. Dus alle romanschrijvers kunnen opgelucht ademhalen, de dichters hebben het wat moeilijker.

De toeslagenaffaire laat zien hoe makkelijk het is om met één druk op de knop levens te ruïneren.

Het was een fantastisch project met de Asibot. Ik kwam aan de grenzen van mijn schrijverschap. Het heeft me letterlijk slapeloze nachten gekost − de oplage was hoog en een heel team van wetenschappers had hun ziel en zaligheid hierin gelegd. Toen ik daarna aan Alle tijd werkte, voelde ik vooral opluchting: ik ben diep gegaan met mijn vorige project en nu ben ik weer op mijn eigen vertrouwde terrein.’

Agnieszka Juszczuk
Expert kredietrisico’s en kwantitatieve modellen bij Van Lanschot Kempen

‘Laat ik eerst uitleggen wat ik eigenlijk doe: ik reken het risico uit dat rijke klanten in gebreke blijven en hun hypotheek niet meer betalen. Reguleringen vereisen dat we uitrekenen hoeveel geld er op de bank moet blijven staan zodat we aan alle financiële verplichtingen kunnen blijven voldoen. Dat doen we volgens bepaalde modellen. Die heb ik zelf helpen bouwen, dat was leuk. Daarna moeten de we “performances” van klanten controleren.

Over vijftien, twintig jaar kan mijn team van zes personen gehalveerd zijn.

Vroeger kostte het maken van zo’n rapportage twee à drie dagen, nu is het handmatige werk nog maar een half uurtje. Daarna begint het monitoren – welke “performances” zijn groen, rood of oranje, en hoe komt dat? Dat deel van het werk zou wel vervangen kunnen worden door algoritmen, als je programmeert: “Bij de kleur rood, zoek in de data wat dit probleem veroorzaakt heeft.”

Op een knop drukken en naar modellen kijken – voor mij is dat het saaiste werk, want het is repetitief. Ik doe liever iets nieuws. Zoals de algoritmen bouwen die het monitoren overnemen. Daarbij moet je rekening houden met honderden pagina’s reguleringen van verschillende autoriteiten, die elk jaar weer kunnen veranderen. Het kán natuurlijk dat die regelgeving de vorm krijgt van templates, zodat ook het kijken daarnaar geautomatiseerd kan worden. Zou ik niet erg vinden! Over vijftien, twintig jaar denk ik dat mijn team van zes personen gehalveerd zou kunnen zijn. Voordat we volledig vervangen zijn, zitten we op zo’n dertig, veertig jaar. Dan kan ik dit stuk teruglezen en denken: o god, mijn baan is inderdaad weg!’

Marlies van Eck
Juriste bij Hooghiemstra & Partners, gepromoveerd op geautomatiseerde ketenbesluiten & rechtsbescherming en gastdocent Radboud Universiteit

‘Er zijn nu al apps die behoorlijk accuraat voorspellen hoeveel kans je hebt om een verkeersboete succesvol aan te vechten. Dat is mooi. Maar een implicatie van die groeiende inzet van algoritmen is dat er heel sterk op vertrouwd wordt, als oplossing voor alles. Er wordt iemand bijgezet voor als het misgaat, maar te vaak zegt diegene: “Wie ben ik om er anders naar te kijken dan de computer?” We zijn de mens kleiner aan het maken. Terwijl het juist als je met AI werkt heel belangrijk is om als mens bij te sturen. Het mooie is dat AI-deskundigen de eerste zijn om dat te zeggen, maar het lijkt een economische wet: “Als we dit systeem kopen, hebben we jullie ook niet meer nodig.” De toeslagenaffaire laat zien hoe makkelijk het is om met één druk op de knop – nou ja, misschien drie drukken – levens te ruïneren. En als je het dan wilt herstellen… Ik zou wel naar een systeem willen waarin je, als je met één druk op de knop echt levensbelangrijke invloed kan hebben, je het ook met één druk op de knop kunt terugdraaien.

Als advocaat moet je kunnen begrijpen hoe het algoritme werkt dat strafbare uitspraken van je cliënt uit onderschepte gesprekken heeft gefilterd. Voor juristen heb ik daarom een leergang AI ontwikkeld, waarin ik ook laat zien hoeveel leuker AI je werk kan maken. Door administratieve taken uit te besteden, of als je niet meer naar die ene uitspraak hoeft te zoeken als een speld in een hooiberg. Uiteindelijk, voorspel ik, kunnen digitale personal assistants simpele juridische kwesties direct onderling afhandelen. Zodat we de mensen overhouden voor het echte intermenselijk contact.’