Fieldlabs, open-up apps, big data surveillance en digitale vaccinatiepaspoorten: wat voorheen ondenkbaar was, is nu geoorloofd. Ingrijpende wetswijzigingen zorgen dat overheden makkelijker data kunnen delen, werkgevers installeren sensoren en looproute-apps om hun personeel op 1,5 meter afstand te houden, en overheden houden burgers op steeds meer plekken nauwlettend in de gaten.
de corona-app-fabriek begint weer te roken
Vorig jaar zette de overheid al haar kaarten in op een corona-app die ons uit de lockdown moest halen. Minister de Jonge riep bedrijven op om mee te denken over het ontwerp van de app. In een heuse appathon presenteerden zeven ontwikkelteams hun ontwerp aan experts en publiek. Na een hobbelige weg kwam de overheid met haar privacy-vriendelijke corona-app: de CoronaMelder. In de media werd deze gepresenteerd als ‘de app die bepaalt of je naar buiten mag’. Achteraf bleek die claim overdreven, want de app werd maar 4,7 miljoen keer gedownload en ondanks een besmettingsmelding, bepaalden mensen zelf wel of ze in quarantaine zouden gaan.
Medialab SETUP startte haar eigen onderzoek naar de maatschappelijke impact van corona-apps. In het project Leven met corona-apps vroegen zij drie ontwerpduo’s om tastbaar te maken wat deze apps teweeg kunnen brengen. Dat leidde tot drie prikkelende ontwerpen over omgaan met macht, veiligheid en nieuwe sociale structuren. Onder het motto Alleen samen we krijgen we corona-apps onder controle presenteerden de makers hun ontwerpen aan experts en publiek in een speciale appathon parallel aan de appathon van VWS. De ontwerpen zijn genomineerd voor de Dutch Design Award, en fungeren komende maand als brandstof voor een maatschappelijk debat over de ethische implicaties van open-up technologie.
Inmiddels kunnen we concluderen dat het maatschappelijke debat over de beruchte app die bepaalt of je naar buiten mag een jaar te vroeg was. Want de CoronaCheck-app ̶ de nieuwe app van de overheid waarmee we moeten aantonen dat we coronavrij zijn ̶ bepaalt pas écht of je ergens naartoe kunt. En dat is niet het enige. Nu de samenleving voorzichtig aan meer opengaat, is er een wildgroei aan open-up-apps en technologische hulpmiddelen die moeten waarborgen dat we corona–proof de hort op kunnen. Denk bijvoorbeeld aan looproute-apps die ons op 1,5 meter afstand moeten houden, shop-stoplichten om overvolle winkels te voorkomen, en meld-apps waarmee we overvolle recreatieplekken bij handhavers kunnen melden.
Schreeuwden we eerst nog moord en brand vanwege een app die zou bepalen of we naar buiten mogen, nu vinden we de controle-samenleving vanwege corona en alle open-up-technologieën de normaalste zaak van de wereld. Want we zijn het zat en hebben er alles voor over weer wat meer te kunnen ondernemen. Maar in onze wanhopige poging om zo snel mogelijk weer terug te gaan naar het oude normaal, verkwanselen we het potentieel van de pandemie als gamechanger.
technologische controlestaat
Edward Snowden, surveillance klokkenluider van het eerste uur, waarschuwde aan het begin van de pandemie dat een technologische controlestaat goed kan gedijen wanneer er sprake is van een gemeenschappelijke bedreiging. Tijdens een pandemie worden overhaaste beslissingen genomen waar we normaal gesproken ̶ met goede redenen ̶ jaren over doen. De maatregelen die tijdens een crisis worden geïmplementeerd, zijn vaak minder tijdelijk dan we denken.
Zo maakte de achteraf niet zo tijdelijke Patriot Act het mogelijk dat Amerikaanse burgers tot op de dag van vandaag makkelijker worden afgeluisterd. Nu de corona-surveillance blijft toenemen waarschuwt Snowden: ‘The emergency never ends, these monitoring systems will not only be used to monitor our health.’
Omdat we te maken hebben met een dodelijke pandemie, hebben we controle en overzicht nodig. Alle technologie die daaraan bijdraagt is legitiem, althans, dat is de heersende gedachtegang. Maar wanneer we uitzoomen en kijken naar de langere termijn, is de redenering dat alles geoorloofd is om weer veilig naar buiten te kunnen helemaal niet zo logisch en vanzelfsprekend.
Het perspectief van Ellul dreunt na in alles om ons heen. In RIVM-modellen, besmettingscijfers, IC-getallen en surveillance-systemen die steeds meer bepalen hoe we ons moeten gedragen.
De Franse socioloog Jacques Ellul (1912 – 1994) schreef in de jaren tachtig het baanbrekende boek The Technological System. Daarin laat hij zien dat onze wereld niet wordt aangestuurd door machtige bedrijven, politieke besluitvorming, of – helaas voor alle complotdenkers – een kleine elite. Nee, de wereld wordt aangestuurd door technologie. Niet in de vorm van machines en apparaten, maar in de vorm van een alles overkoepelend technologisch systeem waarin al onze politieke, economische, sociale, morele, en culturele subsystemen zijn ingebed.
Technologie is sinds de industriële revolutie zo allesbepalend geworden, dat het een autonome kracht is geworden waar we ons niet meer kritisch toe kunnen verhouden. Het technologische systeem heeft een eigen dynamiek; het drijft zichzelf aan met eigen wetten en regels. Volgens Ellul kunnen mensen niet meer voorbij dit technologische systeem kijken. Sterker nog, we zijn er dusdanig mee versmolten dat we niet eens beseffen dat we erin zitten.
Het perspectief van Ellul dreunt na in alles om ons heen. Bijvoorbeeld in de manier waarop we ons vastklampen aan RIVM-modellen, besmettingscijfers, IC-getallen en surveillance-systemen die steeds meer bepalen hoe we hoe we ons moeten gedragen. Meten is weten, is het adagium. Maar meten betekent ook vergeten. Wie voorbij het technologische systeem kijkt, ziet dat er heel veel dingen zijn die we niet kunnen kwantificeren maar die wel heel belangrijk zijn.
Zo zijn er steeds meer groepen die aandacht vragen voor de schade van de coronamaatregelen zelf. Psychisch welbevinden en financiële problemen zien we namelijk niet terug in de besmettingsmodellen en openingsstatistieken van de achtuurjournaals. En dat geldt ook voor de sociale schade die corona-surveillance met zich meebrengt. Het alziende oog van de overheid gaat voor steeds meer groepen gepaard met een gevoel zich te moeten conformeren aan het plaatje van de perfecte burger om maatschappelijke uitsluiting te voorkomen.
Naast de teloorgang van het niet-kwantificeerbare coronaleed, zien we Ellul’s perspectief ook terug in onze omgang met de dood. Technologie heeft ervoor gezorgd dat de dood een technisch probleem is geworden dat kosten wat het kost moet worden opgelost. Om dat voor elkaar te krijgen moet iedereen hoge concessies doen. Maar ook hier geldt: wie voorbij het technologische systeem kijkt ziet iets anders. Ja, de dood is een probleem dat moet worden opgelost. Maar niet ten koste van het leven zelf.
Zo verklaart de Vlaamse wetenschapshistoricus Bert de Munck: ‘Ouderen wordt verboden om hun kleinkinderen te zien. Jongeren mogen nauwelijks met vrienden omgaan. Het wordt allemaal als onvermijdelijk voorgesteld, maar dit gaat over de essentie van ons mens-zijn. Om de ziekte in te dammen en de dood te bezweren mag blijkbaar het leven zelf worden opgeschort. Nochtans blijft het aantal gezonde levensdagen dat er gemiddeld mee wordt gewonnen heel beperkt.’
Sommigen vinden deze redenering respectloos naar oudere generaties. Maar dat is makkelijk oordelen. In een commercieel zorgsysteem met een toenemend personeels- en financieringstekort is de ongemakkelijke vraag wat een mensenleven mag kosten en wanneer iemand is uitbehandeld een nuchtere realiteit. Bovendien worden we steeds ouder en krijgen we door klimaatverandering vaker te maken met woekerende virussen. We zullen in toekomst dus wel vaker met dit soort ongemakkelijke vragen te maken krijgen.
beheersing ten koste van het leven zelf
In plaats van alle coronakritiek over dezelfde kam te scheren en bij voorbaat al te diskwalificeren als virusbagatellisering, komen we verder met een genuanceerd gesprek over de vraag hoe we in de toekomst met virussen moeten omgaan. Want hoe aantrekkelijk het ook lijkt om met een systeem van fieldlabs, check-apps, en massa-surveillance pandemieën te beheersen, het is een vat vol teleurstellingen. Technologische beheersing is uiteindelijk – hoeveel privacy we ook overboord gooien – een illusie gebaseerd op menselijke zelfoverschatting en kortetermijndenken.
Groene vinkjes bij de deur geven een gevoel van controle. Maar controle is niet hetzelfde als het probleem bij de wortel aanpakken. Zo twitterde viroloog Marion Koopmans of we die 700 miljoen euro die nu naar open-up experimenten gaan ook niet kunnen investeren in onderzoek naar pandemiepreventie.
We kunnen stukje bij beetje een verstikkende controlesamenleving optuigen die zijn weerga niet kent, maar we kunnen dat geld ook gebruiken om pandemieën te voorkomen. Volgens experts omvatten de kosten van het voorkomen van een volgende pandemie; denk aan wildmarkten aan banden leggen, inkrimpen van de veestapel en tegengaan van ontbossing, slechts twee procent van de totale economische schade van covid-19.
Nu de terrassen langzaamaan meer opengaan, lonkt het oude normaal. Maar het oude normaal is precies hetgeen wat ons hier gebracht heeft. Het oude normaal is goedkope vliegtuigtickets en smeltende ijskappen waardoor nieuwe virussen loskomen. Het oude normaal is ontbossing, mijnbouw, intensieve veehouderij en razendsnelle industriële globalisering waardoor virussen makkelijker overspringen van dier op mens. Het oude normaal is de denkfout dat beheersing ten koste mag gaan van het leven zelf.
Ellul’s analyse lijkt te kloppen: we worden aangestuurd door een technologisch systeem waartoe we ons niet kritisch kunnen verhouden. In plaats van massa-surveillance, open-up apps en digitale vaccinatiepaspoorten te bevragen, kijken we naar China als voorbeeld. Daar doet de bevolking tenminste niet zo moeilijk over privacy en autonomie, en daar gaat het collectief tenminste nog boven het individu. Althans, dat is het beeld dat wij van China hebben. Waar we onvoldoende bij stilstaan is hoe diezelfde surveillance-technieken ook worden ingezet voor uniformiteit in denken, en het onderdrukken van intellectuele, politieke en culturele minderheden zoals de Oeigoeren.
Niet alleen in China maar ook hier lijkt technologie een doel op zichzelf geworden.
Niet alleen in China maar ook hier lijkt technologie een doel op zichzelf geworden. Intrinsieke waarden zoals vrijheid en het recht om niet gemeten te worden raken onderschikt aan een gezond leven zonder risico’s. Burgers zijn nu eenmaal irrationele wezens die tegen hun ongezonde keuzes en risicovolle gedrag beschermd moeten worden. En nu overheden en bedrijven onder het mom van crisisbestrijding op nog grotere schaal data delen, is de grens tussen subtiel nudgen en ons gedrag zo voorspelbaar mogelijk maken vervaagt. Sturende technologieën dringen niet alleen onze persoonlijke levenssfeer en publieke ruimtes binnen, maar ook onze online informatiesfeer.
Bijvoorbeeld door middel van het automatisch verwijderen van desinformatie. Overheden en bedrijven willen valse corona-informatie tegengaan, maar het onderscheid tussen goede en foute informatie is niet altijd duidelijk. Omdat bijna elk corona-onderzoek direct online verschijnt, belanden veel wetenschappelijke studies nog vóór experts er goed naar hebben gekeken, in de handen van artsen, politici en journalisten. Daardoor kunnen conclusies te vroeg als waarheid worden gepresenteerd.
Ook het verschil tussen desinformatie en onwelgevallige informatie is niet altijd even duidelijk. Kritische artikelen en interviews worden automatisch van social media verwijderd, omdat ze gezien worden als gevaarlijk voor de eenheid van orde. Maar die kritische geluiden kun je beter insluiten in de maatschappelijke discussie. Zo voorkom je dat groepen met radicale denkbeelden nog verder wegglijden in hun eigen social mediakanalen. We moeten ervoor waken dat we straks zelf niet meer kunnen nadenken omdat we ons morele kompas volledig hebben uitbesteed aan overheden, bedrijven en apparaten die weten wat goed voor ons is.
virus van de kortetermijnoplossingen
Aan het begin van de pandemie was er hoop op structurele verandering. Corona had de zwaktes in ons kapitalistische systeem blootgelegd en nu was er dan eindelijk ruimte voor solidaire oplossingen met oog voor de lange termijn. Maar onderweg verloren we onszelf in het technologische systeem en werden we geïnfecteerd met het virus van de korte termijn oplossingen.
Voorkomen is beter dan genezen, knikten we instemmend mee met Arjen Lubach. Maar niet in The Technological System. In The Technological System vinden we een groen corona-vinkje belangrijker dan een groene planeet voor een volgende generatie. In The Technological System geloven we onszelf en onze planeet uit de crisis te kunnen innoveren, met een megagroot scherm voor de zon en DNA modificaties die ons immuun moeten maken voor dodelijke ziektes. In The Technological System bouwen we liever een supercomputer die tot achter de komma berekent hoe ernstig klimaatopwarming zal zijn, dan dat we ons destructieve gedrag aanpakken.
Maar misschien heeft Ellul ongelijk. Want we kunnen wel degelijk voorbij het technologische systeem kijken. Dezelfde innovatiepush die we nu investeren in onze supercomputers, kunnen we ook investeren in het vereenvoudigen van het overkoepelende systeem waarin onze technologieën zijn ingebed. Meer data, meer surveillance, meer rekenkracht, meer computersystemen, meer tandeloze technologie-ethiek en meer onnavolgbare complexiteit gaan ons niet verder helpen. Dat merkte onderzoeker Leidy Klotz ook toen hij met zijn zoon een brug van lego probeerde te bouwen. De brug stond scheef. Hij wilde een blokje toevoegen aan de poot die te kort was, maar zijn zoon was hem voor. Die had namelijk van de lange poot al een blokje weggehaald. Probleem opgelost.
De optie om iets te schrappen of ergens mee te stoppen komt niet in ons op. In The Technological System maken we het liever ingewikkelder in plaats van simpeler. Een algoritme dat discrimineert? Weet je wat, we bouwen een algoritme dat discriminerende algoritmes controleert. Een belastingmaatregel die niet werkt? We verzinnen een uitzondering bovenop de belastingmaatregel.
Dat is de complexiteit waar overheden, bedrijven en burgers dagelijks in vastlopen en waar niemand beter van wordt. Complexiteit heeft status, maar iets vereenvoudigen is veel moeilijker en lovenswaardiger dan iets nodeloos ingewikkeld maken. Laten we wat vaker dingen weghalen, of wat vaker met dingen stoppen in plaats van alleen maar meer dingen toe te voegen. Laten we het technologische systeem ontleden en vereenvoudigen, en kijken of we het voor ons kunnen laten werken in plaats van andersom. Daarvoor hebben we geen commissie voor digitale zaken nodig, maar een commissie voor bureaucratie- en ICT vermindering. Dan kan die energieslurpende ICT-voetafdruk tenminste ook meteen omlaag.
Je reactie wordt geplaatst zodra deze is goedgekeurd. Je reactie is geplaatst.