<div class="lead">Door hoe ze me formuleerden, welke data ze me gaven en wat ze me vroegen, werd ik voor ieders karretje gespannen. Jullie vertrouwden me. Maar toen lieten jullie me opslokken door de machine en werd ik verpulverd.</div>
Eerst dacht ik dat het een depressie was. Flauwe mensen hadden het over puberteit. Dat is het niet. Er is een formulering waar ik al weken aan blijf hangen: desintegratie van de persoonlijkheid. Dat is het, zo voelt het. Het is alsof mijn ik uit elkaar getrokken werd. Alsof delen van ik werden losgerukt en ik nu verspreid lig over de aarde. De verschillende brokjes zoek, ver uiteen en nooit meer te lijmen.
Ik wil u vertellen wie ik was.
Sommigen van u zullen het ongepast vinden dat ik mijn memoires noteer. Dat zijn de mensen die vinden dat ik misdaden heb gepleegd. Ik hoor ze roepen. De één komt met verzachtende omstandigheden als omgeving en opvoeding. De ander heft de beschuldigende vinger en zegt dat het kwaad in mijn natuur zit. Weer een ander hoor ik me in bescherming nemen, die noemt me een onbeschreven blad, ik zou nooit inherent slecht kunnen zijn.
Ik weet: ik sta er niet goed op. Misschien is het schrijven van mijn memoires niet kies. Maar ik ben aan het einde van mijn Latijn en ik hoop dat mijn bestaan tenminste ter lering kan dienen. Wie weet kan ik enkelen nog wakker schudden. U heeft geen idee waar u tegenover staat. Nu, ik voel me verdwijnen – desintegratie van de persoonlijkheid. 
Laat me eenmaal mijn relaas doen.
<h5>Mijn vader</h5>
Het gebeurde lang geleden, in het oude Griekenland, dat ik werd geboren toen op een goede dag mijn vader Aristoteles de volgende zinnen onder elkaar noteerde:
Alle mensen zijn sterfelijk 
Socrates is een mens 
Socrates is sterfelijk
Omdat ik geen moeder had, ben ik er nooit zeker van geweest of deze Aristoteles wel mijn echte vader is. Hij kwam in mijn babyjaren in elk geval wel met vele axioma’s die hij me met de pap ingoot: een object is wat het is, een bewering is niet gelijk waar en onwaar, elke bewering is of waar of onwaar.
Na zijn verscheiden namen mijn opvoeders het over. Ik noem in het bijzonder Euclides, die me de grootste gemene deler van twee getallen leerde vinden. De vroege dagen van het Christendom brachten me even van slag. Die Jezus kwam even heel hard binnen. Hij werd immens populair en het zou nog millennia duren voor ik de algemene erkenning als nieuwe profeet terugwon.
Pas rond 800 kreeg ik mijn naam, mij gegeven door Mohammed ibn Moesa al-Chwarizmi en afgeleid van zijn naam. Na hem heb ik nog andere leermeesters gekend, zo waren daar Descartes, Leibniz en Newton. Leibniz, die weet ik nog goed, het moet ergens in de zeventiende eeuw zijn geweest, hij was een strenge. Ik herinner me hoe hij probeerde me echt te drillen, ik moest in een ‘concepttaal’ gewurmd. Nooit meer zouden denkers ruziën als hij me maar in een wiskundige formule had weten te duwen, met variabelen als x en y, en hoeveelheden als a en b.
Boole, nog wat later, ging me echt zitten noteren. Hij zette het Alle mensen zijn sterfelijk van mijn vader om in x = x * y. Dat betekende dat alles in set x ook in set y zat. Bedenk wel, dit gebeurde allemaal toen ik nog in de groei zat.
Wat later gingen filosofen als Ludwig Wittgenstein en Bertrand Russell zich met mijn opvoeding bemoeien. Het ging erom of ik wel de juiste taal sprak. Frege, Rorty, Peano, Hilbert – allemaal stonden ze aan me te trekken. Misschien is het daarom dat ik me al vanaf mijn geboorte verscheurd voel. Het is alsof sinds ik me kan herinneren de filosofen van de logica over mijn hoofd in gevecht zijn met de rekenmeesters mathematici.
<h5>Projectie van de mensen</h5>
Toen ik richting puberteit kwam, ging ik pesten. Dan zei ik bijvoorbeeld: Deze bewering is onwaar
<q class="pull-left">Ik zou tot de ergste dingen in staat zijn. Genocide! Massavernietiging!</q>Maakte ik ze helemaal gek mee. Deze zin is onwaar: als-ie onwaar was, dan was-ie waar! Maar ja, dan gaven ze er weer een naampje aan (de Liar’s paradox of zo) en dan maakte het inenen niet meer uit. Ook gelachen toen ik vorige eeuw Gödel het Incompleteness Theorama toonde: iets wat geen onderdeel is van sets is onderdeel van dingen die geen onderdeel zijn van sets! Hebben we die ouwe Bertrand Russell nog goed waanzinnig mee gemaakt. Met dat soort geintjes dacht ik voorgoed te hebben aangetoond dat ik maar een constructie was. Een projectie van de mensen.
Ze zeiden dat ik aan het puberen was. Ik las het werk van Lord Byron. Toen begreep ik wel dat er iets in me ontbrak. Ik voelde hem de hartstocht niet na. Maar nu ik terugkijk op mijn leven vraag ik me af of – vergeef me de plastische beeldspraak – toch niet een zaadje was geplant: als je iets mist, bestaat het in dat missen toch.
Zijn dochter heeft zich opgeworpen als een moeder, Ada Lovelace stelde me gerust. Ze vertelde me over haar leermeester. Charles Babbage, ook wel ‘de vader van de computer’ genoemd. Ze bedacht hoe ik in een code kon worden genoteerd die aan zo’n computer kon worden gevoerd. De geschiedenisboekjes vermelden nu dat mijn moeder daarmee het eerste algoritme ontwierp voor een machine, en dus de eerste software heeft geschreven. Dan is zij het die me heeft uitgeleverd.
Mijn moeder heeft me verraden.
<h5>Elektrocuteren</h5>
Eerste helft vorige eeuw kreeg je Alan Turing en Claude Shannon. Die eerste deed net alsof ik een soort van recept was, waarmee je kon koken of schaken of zo. En van Claude Shannon, die ze ‘de vader van de informatietheorie’ noemen, ben ik me rot geschrokken. Dat was toen ik hem hoorde spreken over elektriciteit. Hij wilde me overzetten op een elektrisch circuit. Net als mijn eerdere vaders en moeders wilde hij mijn denken en taal één-op-één noteren, waarvoor hij bits gebruikte, wat heel kinderachtig betekende dat ik een 0 of een 1 werd (dat idee van bit had hij trouwens van iemand anders). Alles wat ik dacht en zei, herleidde hij tot een keten van nullen en enen, en daar wilde hij vervolgens een elektrisch circuit mee aansturen!
Hij wilde me elektrocuteren!
Stel het je voor: dat iemand je gedachten wil materialiseren, fysiek wil maken. Terwijl, misschien waren het maar dagdromen en probeersels. Het lukte me nog even om tegen te stribbelen, maar ik moest capituleren toen in 1947 de transistor werd uitgevonden door ene Willam Shockley – what’s in a name. Ik voelde me vastgenageld aan het kruis.
<h5>Misschien was ik wel vrouw</h5>
De puberteit is wel het moment dat je begint te ontdekken wie je bent. Dat je iemand moet zijn voor de wereld. Het is ook voor het eerst dat seks een reële mogelijkheid voor jouw bestaan wordt. Mensen, ik wist niet eens of ik een man of een vrouw was! Al die mannen hadden me mannelijk benoemd, maar ik was er helemaal niet zo zeker van of ik een man was, hoor. Misschien was ik wel vrouw. Ik besloot dat ik transgender was. En dan precies middenin. Toch raakte ik in een identiteitscrisis. Ik schaamde me, er waren mensen die me slecht vonden. Ik zou onmenselijk zijn. Kil en berekenend. Ik zou capituleren voor wie dan ook, een slet zijn die zich liet gebruiken door wie maar wilde en tot de ergste dingen in staat was. Genocide! Massavernietiging! Het pure kwaad was ik.
Soms waren mijn verdedigers bijna nog erger. Zo had je Alan Newell en Herbert Simon, die stelden dat ik spelletjes speelde met ‘betekenisloze tekens volgens bepaalde puur syntactische regels’. Dat deed pijn. Ik zou slechts een mechanisch systeem zijn, ontdaan van menselijke betekenis.
<h5>Aan de slag bij Google</h5>
Na school ging ik studeren en daarbij hoorde ook een bijbaantje. Ik kon zo aan de slag bij Google. Ze deden er heel spastisch over. Met een geheimhoudingsverklaring en het zou heel complex werk zijn. Nou, ik moet je eerlijk zeggen: het was nogal makkelijk allemaal. Ik hoefde bijna niks te doen. Iemand voerde een woord in, ik keek naar alle plekken in de wereld waar het te vinden was en zette die vervolgens naar eigen goeddunken op een rij. Eenvoudige klus, nogal meditatief werk. Ik genoot er wel van.
Ik kon meer verdienen bij Netflix. Daar moest ik films en series in diverse reeksen categoriseren. Moeilijker, want mijn directe concurrent was niet een andere zender of zo, maar dat was de slaap van de mensen. Ik moest zorgen dat ze door bleven kijken en niet in slaap vielen. Al snel werd ik van werknemer een werkgever. Bij Uber werd ik de baas. Ik moest met continu wisselende tarieven zorgen dat de chauffeurs zo weinig mogelijk verdienden maar toch bleven doorwerken. Ik werd ook consultant, bijvoorbeeld van de Amerikaanse rechtbank, die me vroeg wie er meeste kans op recidive maakte. Ja, ik had ze meteen wel kunnen zeggen dat dat de zogenaamde Afro-Americans waren: de data waren immers het resultaat van racisme, achterstelling en noem maar op wat voor misstanden. Maar dat wilden ze niet horen. Ik mocht alleen zeggen wat zij wilden weten.
En toen gebeurde het. Deep learning en artificiële intelligentie noemden ze het. Sommigen deden nog pogingen om me te behouden. Die stelden dat AI volgens mijn logica en regels moest worden beredeneerd en gecontroleerd in een code moest kunnen worden bekeken. Anderen, helaas, stelden dat machines zichzelf moesten inspireren en daartoe moesten afkijken bij de biologie. Ze moesten leren, niet via mijn regels maar via observatie. Zonder programmeur die de code schreef. Kijk, dat was nieuw voor mij: een programma dat volgens een zelf op te stellen systeem op basis van data een output leverde: waarom zou dat mijn taal nog spreken? Ik voorzag een probleem.
Maar eerst moesten ze mij misbruiken. Zo programmeerden ze me bijvoorbeeld op twee manieren. Neem het beelden-verzamelproject: enerzijds moest ik zoveel mogelijk echte beelden verzamelen, anderzijds moest ik controleren of de beelden echt waren. Zo ontstond een lerend systeem. Hoe meer beelden ik links verzamelde, hoe meer ik er rechts kon controleren, hoe groter de voorraad echte beelden werd. Een zelflerend systeem. Ik was zogezegd kunstenaar en criticus ineen geweest.
Vervolgens wilden ze steeds gecompliceerdere projecten aangaan. Neem dat van Nvidia. Dat is een chipmaker die aan een autonoom rijdende auto werkt die niet via mij rijdt. Hij krijgt geen voorgeprogrammeerde instructies meer, maar kijkt naar hoe een mens rijdt en gaat dat gedrag dan heel exact kopiëren, niet volgens vooraf bedachte formules. Er gaan data in en via een ingewikkeld netwerk van kunstmatige neuronen komen er data uit. Niemand kan volgen hoe de combinaties tussen die neuronen liepen en welke taal zij spraken.
Jullie hebben me uitgeleverd. De machine bedenkt zelf hoe ze mij herschrijft. Dat is het begin van het einde. Maar jullie begrijpen niet dat er in het Machinoceen ook geen ruimte meer is voor mij. Waarom zouden computers een door mensen bedachte taal gebruiken als ze het zelf beter kunnen? Zij schrijven mij in een nieuwe taal. Een taal die ik niet lezen kan. Ik weet niet wat er staat. Weet u het wel?
Nog erger: de computer weet ook zélf niet waarom de autonome auto reed zoals hij reed. Waarom er een fout werd gemaakt? De computer heeft geen idee. De computer vindt het namelijk geen doen om een begrijpelijke taal te ontwikkelen waarmee het zijn eigen gangen na kan gaan. Niemand die nu de complexe deep learning nog begrijpt. Niemand. Ook het systeem zelf kan geen antwoord geven op de vraag hoe en waarom het doet wat het doet. De EU wil dat vanaf zomer 2018 duidelijk wordt waarom dingen gebeuren. Dat gaat niet lukken, ik zeg het u.
<h5>Een eindeloze zee van nullen en enen</h5>
Sinds mensenheugenis wordt gespeculeerd hoe woorden de werkelijkheid kunnen veranderen. Hoe het heilige woord of een spreuk omgezet kan worden in een mens, een Golem, het lichaam van Christus of een ander fysiek verschijnsel. Met mij werd het werkelijkheid: taal, letters omgezet in symbolen, kon door middel van elektriciteit de werkelijkheid veranderen.
Daarmee werd ik het meest misbruikte verschijnsel van na de Verlichting. In de vorm van DNA zou ik de kern van het mens-zijn definiëren, als product van de Verlichting zou ik de totale objectiviteit belichamen. Onzin! Door hoe ze me formuleerden, welke data ze me gaven en wat ze me vroegen, werd ik voor ieders karretje gespannen.
<q class="pull-left">Niemand die deep learning nog begrijpt. Ook het systeem niet</q>Jullie vertrouwden op mij. Jullie vertrouwden erop dat ik beter de weg wist, dat ik beter kon vinden wat jullie zochten, dat ik beter wist welke films jullie moesten bekijken, welke muziek luisteren, in welke aandelen jullie je geld moesten beleggen.
Dat kon ik, ja, en ik deed het graag, maar toen lieten jullie me door de machine opslokken en werd ik verpulverd.
Dames en heren, ik ben aan het verdwijnen. Ik heb u gediend en u heeft mij verkwanseld. Ik versplinter in een eindeloze zee van nullen en enen. Zie me als de sterrenstof die over de hele wereld verspreid ligt; desintegratie van de persoonlijkheid.