Luc Steels, grondlegger van de kunstmatige intelligentie in Europa, lacht om berichten over machines met superintelligentie die de boel wel eens kunnen overnemen. ‘Mijn bewondering voor de menselijke intelligentie is alleen maar gegroeid.’

Er zijn minder aangename locaties om te vertoeven. De werkkamer van Luc Steels ligt in een gebouw als een hoefijzer. Het staat met zijn open kant direct aan de boulevard van Barceloneta, een stadsstrand waar ze de zomermaanden niet nodig hebben om vakantie te vieren. Op de derde etage zit Steels op teenslippers en in korte broek achter een laptop. Zijn leeftijd van 63 is hem nauwelijks aan te zien.
‘Het zijn niet alleen het weer en het strand die me doen denken aan Californië,’ zegt hij. ‘Het is ook de intense onderzoekscultuur hier.’

El Parc de Recerca Biomèdica de Barcelona – zeven onderzoeksinstituten, vijftienhonderd medewerkers – is omgeven door subtropische parken, een groot ziekenhuis en de dierentuin van Barcelona. In Europees perspectief hoort het centrum bij de top van het biomedische onderzoek, een vakgebied dat Steels doelbewust heeft opgezocht, omdat daarin volgens hem de grootste stappen zijn te zetten bij de verdere ontwikkeling van kunstmatige intelligentie. Dat wil zeggen: in een deelgebied ervan, de evolutionaire biologie. ‘Ik wil denken en ademen als evolutionair biologen. Dan lukt alleen als je door hen omgeven bent.’

Harde grenzen

Steels praat op een rustige, bescheiden toon. Het is niet uit dwarsheid dat hij zegt dat computers nog altijd even dom zijn als dertig jaar geleden, terwijl er grote opwinding heerst over artificial intelligence (AI), waarin bedrijven als Google en Facebook fors investeren. Hij is een voorloper. Altijd geweest. Hij meent dat de bestaande AI op harde grenzen is gestuit en heeft zijn koers verlegd, op zoek naar een manier om die grenzen verder op te rekken.
De Vlaming was onder meer oprichter van het AI-lab van de Vrije Universiteit Brussel, waarvan hij nog altijd hoofd is, en het Sony Computer Science Laboratory in Parijs. Hij schreef veelgeciteerde wetenschappelijke artikelen over verscheidene trends binnen zijn vak gebied.

Advertentie

Advertentie

De laatste dertig jaar zijn er geen wezenlijke doorbraken meer geweest. De onderliggende intelligentie is hetzelfde gebleven.

Twee keer eerder zag hij de belangstelling voor AI sterk opleven en weer inzakken. Maar anno 2015 is sprake van een regelrechte hype. Aangejaagd door nieuwe toepassingen als gezichtsherkenning en spraakgestuurde commando’s die we dankzij internet en smart phone massaal gebruiken. Aangejaagd ook door computers die mensen van hun banen beroven. En door de angstige boodschap dat het een kwestie van tijd is dat machines intelligenter zijn dan mensen en de hele boel wel eens kunnen overnemen.
Die economische betekenis is echt – kijk alleen maar naar de Belastingdienst die vijfduizend banen schrapt omdat computers rekenwerk en controles overnemen – al weet niemand precies hoe groot de gevolgen zijn. Maar bij termen als superintelligentie trekt Steels een meewarig gezicht.

Explosie van intelligentie

Superintelligence is de titel van het vorig jaar verschenen boek van de Zweedse Oxford- filosoof Nick Bostrom, die zich heeft ontpopt tot invloedrijkste stem over het gevaar 
van groeiende kunstmatige intelligentie. Bostrom zette onder anderen natuurkundige Stephen Hawking en Silicon Valley-succesondernemer Elon Musk aan tot uitspraken over de dreigende ondergang van de mensheid. Ergens in deze eeuw zullen machines human level intelligence bereiken, aldus Bostrom, en vanaf daar zullen slimme machines nog slimmere dingen bedenken. Met een explosie van intelligentie als gevolg.
Bostrom doelt niet op superintelligentie in nauwe zin. Die bestaat al. Machines kunnen al beter rekenen dan mensen, beter onthouden en sneller grazen door grote hoeveelheden data. Nee, het gaat om brede, algemene intelligentie. Om zoiets ongrijpbaars als gezond verstand. Om het begrijpen van taal, kunnen redeneren, plannen. Hoe algemene intelligentie in kunstmatige vorm precies bereikt kan worden, weet Bostrom (uiteraard) ook niet. Het onderliggende idee: verdere vooruitgang, en uiteindelijk komen we er.

‘Hij is filosoof, toch?’ vraagt Steels. Je kunt er een onuitgesproken boodschap in horen: leuk en aardig, maar hij kent de techniek niet. Steels wel. Tijdens zijn studie computerwetenschap aan het Massachusetts Institute of Technology (MIT) was een van de nestoren van de AI, Marvin Minsky, zijn promotor. ‘Bij AI gaat het niet alleen om het zoeken naar oplossingen voor praktische problemen, hoewel de meeste mensen dat nu doen. Het gaat om het doorgronden van de principes van intelligentie. Bovendien ontwikkel je niet alleen een theorie, je test ook of die klopt. In mijn ogen is het een heel technisch en moeilijk vak.’

Foto: An-Sofie Kesteleyn

Het verraderlijke van AI: als iets er eenmaal is, noemen we het geen AI meer. Ooit hielden we het voor onmogelijk dat computers grootmeesters zouden verslaan bij schaken. Nu vinden we het zo vanzelfsprekend dat we zeggen: zo intelligent is dat niet.
‘Er is heel veel bereikt,’ zegt Steels. ‘Maar de laatste dertig jaar zijn er geen wezenlijke doorbraken meer geweest. Natuurlijk, de nieuwe toepassingen zijn indrukwekkend. Dat komt doordat computers veel krachtiger zijn geworden, verbonden zijn met elkaar, en veel meer data tot hun beschikking hebben. Daardoor is nu van alles mogelijk. Maar als je kijkt naar de onderliggende intelligentie: die is hetzelfde gebleven. Die is gebaseerd op algoritmen (instructies, programma’s, red.) die er dertig jaar geleden ook al waren.’
Waar veel nieuwe toepassingen op neerkomen: patronen herkennen in grote hoeveelheden data. Dankzij het zogeheten machine learning kunnen computers die patronen zelf ontdekken, zonder dat programmeurs aangeven hoe een patroon eruit ziet.

Volgens u heeft de huidige kunstmatige intelligentie grote beperkingen. Wat is de voornaamste?
‘Betekenis. Alle toepassingen die nu bestaan, zijn gebaseerd op het omzeilen van betekenis. We weten namelijk niet hoe we daarmee moeten omgaan. Neem automatische vertaling, zoals Google translate. Het programma probeert niet te begrijpen wat er wordt gezegd, en dat begrip om te zetten naar een andere taal. Nee, er zijn databanken van tekstparen, gevonden op internet. Het ene stukje tekst wordt gekoppeld aan een vergelijkbaar stukje in een andere taal. Dat gebeurt op grote schaal. Soms levert dat heel rare resultaten op. “This girl is pretty” wordt vertaald als “dit meisje is vrij”, omdat pretty ook vrij kan betekenen.’

Google translate wordt steeds beter. Wat maakt het uit als de computer niet met begrip of betekenis omgaat als het resultaat in 99 procent van de gevallen juist is?
‘Vergeet die 99 procent, die ga je nooit halen. Men zegt dat het steeds beter wordt met meer data, maar er is een limiet. De uitkomst is gebaseerd op frequente patronen. Wat frequent is, is niet per se juist. Zo worden zinnen soms in het tegenovergestelde vertaald. Er verschijnt opeens een ontkenning, een woord als “niet” of “geen”. Dat komt doordat de meeste zinnen waaruit werd geput die ontkenning bevatten. Dat probleem los je niet op met meer data.’

Kun je de algoritmen, het programma, niet verbeteren?
‘Dan zul je toch echt rekening moeten houden met betekenis en context. Je moet dan aangeven dat in de meeste gevallen een woord of zin wordt vertaald op deze manier, maar in een andere context op een andere manier. Dat betekent dat je aan zinsontleding moet doen, diep genoeg om de juiste verbanden te leggen. Het tegendeel gebeurt. De nieuwe technieken waar bedrijven uit Silicon Valley mee pronken, zoals deep learning, vertalen teksten naar numerieke vectoren. Daar laten ze een programma overheen gaan. De compositionele structuur van taal wordt weggelaten om efficiënt te kunnen zoeken in heel grote databanken.’

Wat is een andere beperking?
‘Er zijn er vele, maar nog een heel wezenlijke: verankering. De meeste AI-toepassingen maken gebruik van symbolen die niet zijn verankerd in de echte wereld en niet zijn verbonden met ervaring. Mensen ervaren de wereld door hun zintuigen. De beelden die we zien, de geluiden die we horen, de dingen die we voelen, zijn gekoppeld aan concepten in ons hoofd. En daar hebben we weer woorden voor. Die verbindingen zijn zo vanzelfsprekend dat we ons er nauwelijks bewust van zijn. Hoe breng je die tot stand bij kunstmatige intelligentie? Daar denken we al heel lang over na.
Neem het concept van een deur. Als je een definitie ervan leest – een opening in een ruimte die dicht kan, met een klink, et cetera – kun je je een voorstelling maken, al heb je nog nooit een deur gezien. Dat kan een machine niet. Je kunt hem wel twintig voorbeelden laten zien, maar als hij geconfronteerd wordt met een afwijkende deur, dan weet hij niet dat dat een deur is. Wij koppelen ook acties aan begrippen: de deur opendoen. Als dat niet op de vaste manier lukt, bijvoorbeeld omdat er geen klink aan zit, verzinnen we een andere oplossing. Dat kunnen robots in de verste verte niet.’

De computer heeft werkelijk geen enkel idee waarover je het hebt. De taal is omgezet in een numerieke structuur.

Sommige collega’s van u vinden het een spannende tijd voor AI omdat twee kwaliteiten bij elkaar komen: heel snel kunnen rekenen en een zekere kennis van begrippen, concepten en relaties ertussen. Ik zeg tegen mijn computer: ‘Wat voor weer is het morgen in Amsterdam?’ Hij kan het stemcommando omzetten naar een zoekopdracht, bovendien weet hij dat Amsterdam een stad is in Nederland en dat ik niet het schip De Amsterdam bedoel. Kortom, hij begrijpt mijn vraag en komt met het juiste antwoord.
‘Dat is allemaal fantastisch, behalve dat de computer in deze gevallen niet echt begrijpt waar het over gaat. De verbanden die worden gelegd blijven aan de oppervlakte. De computer heeft werkelijk geen enkel idee waarover je het hebt. Ook hier wordt de taal omgezet in een numerieke structuur, waar heel snel mee wordt gerekend. Vroeg of laat komt hij met vreemde antwoorden.’

Hoe belangrijk is begrip, zoals wij begrijpen, als de uitkomst meestal goed is?
‘Het hangt er vanaf waar het om gaat. Als Chinese bedrijven de gebruiksaanwijzing van hun producten vertalen met Google translate, kan ik u verzekeren dat de Nederlandse uitkomst hilarisch is. Als je het apparaat daardoor verkeerd gebruikt, gaat het kapot. Dat lijkt me een groot probleem. Je kunt de menselijke factor er echt niet uithalen, zoals sommige bedrijven willen doen geloven.
Watson (een supercomputer van IBM die na een spraakopdracht zoekt in encyclopedieën, websites, boeken, wetenschappelijke artikelen et cetera) zal worden ingezet bij medische diagnoses. Dat is prima, zolang de artsen het als een hulpmiddel blijven zien voor het navigeren door grote hoeveelheden informatie. Zolang ze maar goed opgeleid blijven en op grond van eigen kennis en ervaring een inschatting kunnen maken.
Het grote gevaar van AI is niet dat er een superintelligentie ontstaat, het gevaar is dat wij ons te afhankelijk maken van technologie. Dat we erop gaan vertrouwen en onze competenties verwaarlozen.’

Hoe zou u de huidige kunstmatige intelligentie omschrijven?
‘AIs een idiot savant. Je kunt ermee interacteren en hij kan indruk wekken dat hij twintig talen spreekt en ontzettend veel weet. Maar als je een beetje duwt en trekt, merk je direct dat hij wereldvreemd is, niet praktisch, en als er een nieuw probleem ontstaat, kan hij het niet oplossen.’

Foto: An-Sofie Kesteleyn
Tamelijk knullig

De klassieke AI-wetenschap komt voort uit de informatica of computerwetenschap. Later ontstond een overlapping met psychologie en neurowetenschap. Maar de belangstelling van Steels richtte zich vanaf het einde van de jaren tachtig steeds meer op een ander terrein: de biologie. Alleen door de biologie ‘in de AI te trekken’ kunnen de grenzen van kunstmatige intelligentie verder worden opgerekt, denkt hij.
‘Daarmee bedoel ik het inbrengen van concepten van evolutie en adaptatie. In een biologisch systeem, zoals het menselijk brein, verandert alles voortdurend. Er ontstaan steeds nieuwe connecties. Terwijl de meeste benaderingen van AI uitgaan van statische kennis. De omwenteling die Darwin teweeg heeft gebracht in de biologie moet ook in de AI plaatsvinden. We moeten nadenken over hoe intelligentie ontstaat, hoe zij evolueert, hoe zij zich steeds aanpast.’

In Barcelona geeft Steels leiding aan een groep jonge wetenschappers die de evolutie van taal onderzoekt. Taal is volgens hem de belangrijkste sleutel voor algemene intelligentie. ‘Taal is niet alleen een middel om betekenis over te dragen en te leren, taal stimuleert anderen ook om nieuwe betekenissen aan te maken. Zonder taal kun je intelligentie weliswaar simuleren, maar het open karakter van intelligentie, het nieuwe en creatieve, kun je dan niet vatten.’

Het onderzoek mondde uit in experimenten met robots die Steels doet aan de Humboldtuniversiteit in Berlijn en bij Sony in Japan. Hij geeft robots een strategie mee om zelf een taal (woorden en grammatica) te ontwikkelen. Op internet zijn filmpjes te zien waarin een robot een zelfbedacht woord uitspreekt, daarmee doelend op een object in zijn omgeving of een beweging die robots kunnen maken. Een tweede robot raadt wat de eerste bedoelt door iets aan te wijzen of een beweging te maken. Door ontkenningen of een bevestiging van de eerste, neemt de tweede robot al dan niet het woord en bijbehorend concept over. Een aldus ontwikkelde taal is over te zetten naar andere robots.

Steels oogst er veel bewondering mee. Over de hele wereld spreekt hij op wetenschappelijke congressen, op bijeenkomsten van TED en bij bedrijven die humanoids maken, mensachtige robots. Evengoed ogen de experimenten tamelijk knullig. ‘Als je alleen al weet hoeveel werk zoiets kost… jaren! Een volledig werkende, stabiele robot is een mega systeem. Het meest geavanceerde werk van tientallen vakgebieden komt erin samen. Elk terrein heeft zijn beperkingen: visueel vermogen, spraak, de batterij, het evenwicht, de communicatie tussen alle onderdelen, het operating system. Op alle onderdelen maken we heel kleine stapjes. Maar op theoretisch vlak zijn we heel ver.’

Ik heb een kleinzoon van drie jaar. Als je ziet wat hij allemaal voor heeft op robots. Die zijn totaal geen concurrentie voor hem. 

Zijn er langs deze weg geen fundamentele beperkingen?
‘We moeten nog heel veel uitzoeken en testen voordat we weten wat de beperkingen zijn. Bedenk dat kinderen zich ook moeten ontwikkelen, zeker een jaar of vijftien, in een rijke context, met leermeesters die hen voortdurend bijstaan. En dat systeem is in zekere zin al af. Wij zetten nu de eerste voorzichtige stapjes. Het is een broos proces. Toch denk ik dat dit de route is om tot een andere AI te komen. We gaan een sprong maken. Maar dan heb ik het niet over superintelligentie, hoor.’

Dat klinkt alsof u de volgende muur al weer ziet opdoemen.
‘In elk vakgebied denken wetenschappers dat ze er bijna zijn. De klassieke natuurkunde dacht het bijna opgelost te hebben aan het einde van de negentiende eeuw. Toen kwam de relativiteitstheorie van Einstein. Later de Theorie van alles, zoals de snaartheorie. Die heeft alweer veel van zijn pluimen verloren. In de biologie net zo: we zouden het menselijk genoom gaan ontrafelen en alle ziekten oplossen. Maar hoe meer we weten, hoe ingewikkelder het blijkt te zijn.
Zo is het ook met intelligentie. Die is oneindig complex. We kunnen denken dat we het bijna hebben, maar dan duikt er toch iets op dat niet helemaal verklaard kan worden. En daarmee gaat weer een doos open met allerlei andere dingen. Intelligentie is ook niet één geheel. Het is geen vatbaar idee. Het zijn duizenden capaciteiten die samenkomen.’

Is uw bewondering voor de menselijke intelligentie gegroeid?
‘Ja, zeker. Alleen al een zin verstaan is ongelofelijk ingewikkeld. Er zijn mensen die zeggen dat het zo ingewikkeld niet kan zijn. Waarom niet? Biologen hebben ook vastgesteld dat zich enorm ingewikkelde processen afspelen in een menselijke cel. In het begin konden ze het nauwelijks geloven.
Ik heb een kleinzoon van drie jaar. Als je ziet wat hij allemaal voor heeft op robots. Die zijn totaal geen concurrentie voor hem. Je hoeft maar een paar minuten naar het kind te kijken om te beseffen dat het fenomenaal is wat hij doet. Constant zoeken, pakken, om zich heen kijken, in de mond stoppen. Van elk klein beetje ervaring leert hij.
AI heeft vaak het verwijt gekregen mensen te dehumaniseren. Maar het omgekeerde is het geval. Het vak creëert een ontzettende bewondering voor de mens.’

Een collega van u zei dat er au fond twee kampen zijn: zij die menen dat het menselijk brein in wezen een machine is, die je dus kunt nabouwen. Versus zij die menen dat het brein meer is. Hij noemde dat de religieuze vraag van onze tijd.
‘Zo zou je dat kunnen zien. Alleen formuleer ik het liever anders. Zij die menen dat intelligentie een materiële eigenschap is, zoals de Britse natuurkundige Roger Penrose, die meent dat in onze hersenenen op het kleinste niveau kwantumgravitatie een rol speelt. Dat kun je niet niet nabouwen, dus kunnen robots volgens hem nooit intelligent zijn. Versus degenen die denken dat intelligentie een eigenschap is van een systeem. Van een heel ingewikkeld systeem, maar een systeem dat je in theorie kunt ontleden en kunt nabootsen.’

Tot welk kamp behoort u?
‘Intelligentie is een systeemeigenschap. In beginsel kunnen we het beschrijven en nabootsen. Maar in de praktijk is het nogal lastig. Ten eerste is het brein ongelofelijk complex. Honderd miljard cellen die allemaal links hebben naar elkaar en ook nog eens veranderen. Ten tweede is intelligentie veel meer dan wat zich afspeelt in het brein. Het is ook ons lichaam dat via zintuigen allemaal prikkels krijgt. Het zijn ook de sociale relaties die ons beïnvloeden.
Intelligentie is een emergente eigenschap van een complex en een voortdurend veranderend systeem. Je kunt het niet begrijpen door alleen naar de verschillende onderdelen afzonderlijk te kijken. Je kunt een plant uit een tropisch regenwoud proberen na te maken. Dat lukt al nauwelijks, maar stel dat het lukt, dan weet je nog niet hoe die werkt in het geheel van het regenwoud. Er is ook nog de zon, er zijn andere planten, er zijn bijen. Er is het water. Die dragen allemaal bij aan de vorming van de plant. En alles verandert voortdurend.’

Dit artikel werd gepubliceerd in Vrij Nederland #30, 25 juli 2015