Schaamte is een verdienmodel, ziet wiskundige Cathy O‘Neil

De kenmerkende blauwe haarlok van Cathy O’Neil verschijnt maar even op mijn scherm, diagonaal over de rechterwenkbrauw van haar lichte gezicht. Ze zit achter haar toetsenbord en lijkt nog snel iets af te maken, merkt me pas op als ik begin te praten. Dan wordt opeens het scherm zwart. Oh.

‘I think I’ve lost you,’ zeg ik tegen de wiskundige, tech-expert, activist en auteur.
‘No, I’m still here,’ zegt ze, ‘I just turned my video off.’

Oké, denk ik, en neem het direct aan als gegeven. Dit is een vrouw zo feitelijk en to the point, zo strak georganiseerd, het lijkt me nutteloos haar communicatievoorkeuren te betwijfelen. Pas als ik het interview terugluister, hoor ik wat ze er achteraan zei: ‘since your video is off’ – mijn camera stond nog uit, helemaal niet gezien – en dat het dus aan mij lag dat we al die tijd in een donker gat hebben zitten te praten.

Het gevoel dat bij deze ontdekking hoort, zou je ‘technologieschaamte’ kunnen noemen. De lezer zou mij, een journalist die nota bene over technologie schrijft en hier een vooraanstaande technologiedenker interviewt, kunnen shamen over deze kleine maar bepalende onoplettendheid, dit moment van ondermaats technologiegebruik. Het zou een reden kunnen zijn om te stoppen met lezen.

Wat ik niet hoop, want hier valt mooi een losse vergelijking te maken met ‘wiskundeschaamte’, een term uit O’Neils vocabulaire. Hij komt voort uit een anekdote die ook in haar TED-talk en haar eerdere boek Weapons of Math Destruction een rol speelt, en gaat over een Amerikaanse lerares. Een geliefde lerares, die door ouders, collega’s en leerlingen de hemel in werd geprezen. Maar op een gestandaardiseerde test scoorde zij erbarmelijk, en daardoor liep ze het risico ontslagen te worden. Toen ze probeerde te achterhalen volgens welke formule ze beoordeeld was, kreeg ze te horen: dat zou je niet begrijpen, het is wiskunde.

‘We zijn allemaal deel van de schaamtemachine. Wij zijn geconditioneerd om elkaar te shamen en om ervan te genieten. Het is ons entertainment.’

Voor O’Neil was het een uitstekend voorbeeld van wat er verkeerd gaat met algoritmes als we er al ons vertrouwen in leggen. Toen ze over deze lerares hoorde, was ze actief bij Occupy Wall Street. Eerder wérkte ze op Wall Street, als een wiskundige die precies dit soort beslissingsvormende modellen bouwde. In 2016 schreef ze Weapons of Math Destruction, over de algoritmes die het handels- en het bankwezen, onderwijs en het politieapparaat vergiftigen, en de (voornamelijk arme) mensen die daarbij aan het korte eind trekken. Als voormalig algoritmebouwer kon ze die feilloos aanwijzen en ontleden.

De laatste jaren krijgen haar waarschuwingen steeds meer voet aan de grond, en worden ze langzaamaan door een groter publiek begrepen – in Nederland is dat zeker het geval sinds het toeslagenschandaal, waarbij een algoritme sommige nationaliteiten bleek te beoordelen als risicofactor.

Het verhaal over de math shamed lerares vond ook zijn weg naar O’Neils nieuwe boek, The Shame Machine, waarin ze schrijft dat zij als lifelong math nerd niet vatbaar was voor dit type schaamte. Ze had het decennialang met afstand en een frisse blik kunnen bekijken en onderzoeken, omdat haar eigen gevoelens er niet door getriggerd werden. ‘Ik kon de kracht ervan aanschouwen,’ schrijft ze.

Maar zelf ging ze gebukt onder andere schaamte. ‘Terwijl ik als buitenstaander de vernedering van deze lerares aanzag, herkende ik mijn eigen fat shame, de zelfhaat die me elke stap van mijn leven had gevolgd, als een gepersonaliseerde onweerswolk die de zon afschermde.’

Een psycholoog of meditatiegoeroe zou een voor de hand liggender auteur zijn geweest van een boek over schaamte, schrijft O’Neil. Maar vanuit het donkere gat van de camerabeeldloze Zoom-app vertelt ze dat het juist de wiskundige in haar was, die door het onderwerp werd gegrepen.

Wat beweegt een wiskundige ertoe zich jarenlang te verdiepen in schaamte?

‘Het onlogische ervan. De Vulcan in mij (een buitenaards ras uit Star Trek, dat puur leeft naar logica, KvdW), zag met verbazing hoe effectief en systematisch schaamte werd ingezet, zoals bij die lerares. Het overkwam ook mijzelf. Toen ik onderzoek deed naar een maagverkleiningsoperatie, voelde ik me aangesproken door de reclames waarin ik eigenlijk werd vernederd over mijn gewicht. Ik vond het zo’n tegenstelling dat mensen in het aanzicht van schaamte niet opkomen voor hun eigen belangen. Schaamte lijkt onze ratio geheel te overstijgen.’

U lijkt geschokt dat u er zelf ook zo gevoelig voor bent.

‘Ja, ik was verrast. Het was arrogant van mij te denken dat ik vanwege mijn sterke logische kant onvatbaar zou zijn voor schaamte. Maar dat was dus helemaal niet zo. Hoe meer ik erover nadacht, hoe meer ik me realiseerde dat mijn leven gebaseerd was op schaamte. En het ergste ervan is dat het helemaal niet nodig was.’

Intergenerationele schaamte

O’Neil groeide in de jaren tachtig op in een voorstad van Boston. Ze was een stevig meisje, in groep zes had ze al de omvang van een volwassen vrouw. Zodoende had ze al een overvloed aan vernederingen doorstaan toen haar ouders – die zelf leden aan overgewicht – op haar elfde besloten dat ze op dieet moest. Haar ouders waren ook wiskundigen, en het dieet werd gepresenteerd als een rekenspelletje met calorieën en ponden, dat Cathy aanvankelijk glansrijk won. Elke zaterdag werd ze door haar moeder gewogen, en steeds toonde de weegschaal een lager getal. Het gaf een verrukkelijk gevoel.

Des te erger was het toen dat getalletje niet meer meebewoog, en uiteindelijk weer begon te klimmen. Dat kon ze immers alleen aan zichzelf wijten. ‘Diëten werken, diëters falen’ luidt de grondstelling van dikteschaamte. Terwijl er allerlei factoren meespelen, zoals omgeving en genetica, waarop een individu weinig invloed heeft. Het misleidende idee van vrije keuze is de hoeksteen van schaamte, zegt O’Neil. ‘Als ik erop terugkijk, vraag ik me af wat het doel was van de fat shaming die ik als kind onderging. Wat bracht het? En wie bracht het wat?’

Het bracht de dieetindustrie grote winsten.

‘De industrie volgt de mensen. In eerste instantie is fat shaming iets wat mensen doen om zich beter over zichzelf te voelen.’

Het lijkt me dat uw ouders het toch niet zo bedoelden?

Lacht: ‘O, daar ben ik het niet mee eens. Veel van dit soort intergenerationele schaamte is geconditioneerd, dus ze zullen het niet bewust hebben gedaan. Maar ik denk wel dat ze dachten: wij gaan jou helpen de problemen te vermijden die we zelf hadden als dikke mensen. In die zin vernederden ze me dus wel degelijk om zich beter over zichzelf te voelen. Het was meer concern trolling dan onverholen shaming, maar toch.’

Vernedering als bekommernis

‘Concern trolling’ is wanneer vernedering wordt verpakt als bekommernis, bijvoorbeeld wanneer iemand zich zorgen zegt te maken over andermans overgewicht. Zo vond een Amerikaanse televisiepersoonlijkheid dat het lichaam van de voluptueuze rapper Lizzo niet gevierd zou moeten worden: ‘I would hate to see her get sick.’

De term concern trolling laat goed zien hoe moeilijk shaming soms is aan te wijzen.

‘Schaamte is zo’n integraal deel van hoe we met elkaar en tegen onszelf praten. We zien het niet. Maar we willen het ook niet zien. Sinds dit boek zie ik nog beter wat een moeilijk onderwerp het is voor mensen om over te praten, veel moeilijker dan dat van mijn vorige boek. Weapons ging over iets dat de lezer wordt aangedaan, dus het gevoel dat je ervan meeneemt is: die klootzakken! Maar dit boek zegt: we zijn allemaal deel van de schaamtemachine. Wij zijn geconditioneerd om elkaar te shamen en om ervan te genieten. Het is ons entertainment.’

‘Tekenend voor shaming op sociale media, is dat van de vernederde alleen bekend is wat hij verkeerd heeft gedaan. Je krijgt zelden mee dat iemand zich verdedigt, of zich van zijn goede kant kan laten zien.’

En een manier om schuld af te schuiven, de verantwoordelijkheid voor sociale problemen te verleggen naar individuen. Uw boek had misschien ook wel The Blame Machine kunnen heten.

‘In de VS gebeurt dat veel. Bijvoorbeeld met de crack-epidemie, die voornamelijk zwarte mensen raakt die in armoede leven. In plaats van te erkennen dat er sprake is van een probleem met de volksgezondheid, criminaliseren we de verslaafden. Zij hadden gewoon nee moeten zeggen toen hun een crackpijp werd voorgehouden, is het idee.’

U spreekt van een shaming industrial complex.

‘Bij schaamte komt eerst het “ik wil me niet slecht over mezelf voelen, dus verneder ik jou liever dan dat ik erken dat jij pech hebt”. Daarna wordt bedacht: “Het is jouw eigen schuld.” En vervolgens proberen we aan schaamte te verdienen. De dieetindustrie, de farmaceutische industrie, de wellness-industrie: het zijn nieuwe vormen van de ouderwetse mode- en cosmetische industrie, die vrouwen vernedert omdat ze er oud uitzien, en producten aan ze opdringt om er iets aan te doen.’

Maar het gaat u ook om een nieuw tijdperk van vernedering, zoals u het stelt in de ondertitel.

‘Daarmee bedoel ik sociale media en genetwerkte schaamte. Waar de oude industrieën ons shamen zodat we hun producten kopen, hebben de sociale-mediaplatforms ervoor gezorgd dat we elkáár shamen voor hun gewin. Wij doen al het werk voor die bedrijven: we vernederen elkaar en houden elkaar zo op de platforms, waar we op advertenties klikken waaraan zij geld verdienen. Zij hoefden alleen een schaamteplatform te bouwen, wij doen de rest. En het werkt ontzettend goed, omdat de inzet zo hoog is.

Schaamte is entertainment geworden, zoals ik al zei, en dat betekent ook dat we bang zijn om het mikpunt te worden. We hebben het gevoel dat we moeten meedoen om zelf geen slecht figuur te slaan. Ik ben een maand geleden gestopt met Twitter, en ik heb nog steeds het gevoel dat ik iets misloop. Terwijl ik er veel vanaf weet, ik bekritiseer sociale media voortdurend, en alsnog heb ik het gevoel dat ik eraan mee moet doen. Het ontwerp zorgt dat we ons druk maken over wat we missen, aan welke schaamtepraktijken we verzaken mee te doen. Als we niet in sociale media participeren, weten we niet eens waar het gesprek over gaat. We zijn al bijna zover dat we geen echte levens lijken te leiden als we niet meedoen aan deze schaamtemachine.’

Heeft het internet specifieke eigenschappen die onze neiging tot shaming aanwakkeren?

‘Het zit hem in dat ontwerp van sociale media, en de algoritmes die bepaalde soorten informatie voorrang geven op andere.’

…en schaamte promoten?

‘Schaamte-content wordt absoluut uitvergroot. Ik wil er wel op wijzen dat die algoritmes getraind zijn op basis van ons gedrag. De machine kaapt onze natuurlijke impulsen en voert ze op. We hebben een natuurlijke neiging om te wijzen, lachen en staren naar onprettige dingen, een beetje zoals wanneer we een auto-ongeluk zien. Van een klein en akelig voorval kunnen nu miljoenen mensen getuige zijn, in plaats van dat handjevol dat er toevallig langsreed. Omdat de algoritmes ons gekluisterd moeten houden, vergroten ze de afschuwwekkende en buitenissige zaken uit.

Daarnaast is het ontwerp zodanig dat er kliekjes ontstaan die onze woede nog verder uitvergroten, en ons het gevoel geven dat we gelijk hebben. Het creëert ook de illusie dat gesprekken sneller gaan dan ze werkelijk gaan, en dat de normen sneller veranderen dan ze eigenlijk doen. Dat komt omdat de vierduizend mensen met wie je op sociale media in gesprek bent, het hoofdzakelijk met je eens zijn. Zo voelt het al snel alsof jouw mening de norm is. Maar het zijn dus eigenlijk maar vierduizend mensen die hetzelfde vinden.’

Schaamte op zijn plaats

Die stomende online schaamtemachine leidt ons alleen maar af van waar schaamte wél op zijn plaats is, vindt O’Neil. Schaamte kan namelijk ook op een gezonde manier worden ingezet. Als blauwdruk daarvoor neemt ze de schaamteceremonies van de Pueblo, oorspronkelijke gemeenschappen die in New Mexico en Arizona leven. Bij zo’n ceremonie verzamelt de gemeenschap zich op een plein, waar enkelen van hen hun lichamen hebben geverfd met zwart-witte strepen. Zij doen zich voor als ‘zonnekinderen’ die de sociale mores nog niet hebben begrepen en gedragen zich nadrukkelijk schaamteloos, terwijl ze iemand nadoen die zich niet aan de regels van de groep heeft gehouden. Iemand die alcohol het dorp heeft binnengesmokkeld, bijvoorbeeld, en zijn dorpsgenoten aan de drank heeft geholpen. De persiflage dient als waarschuwing aan de rest, maar is ook gericht op verlossing van de schuldige. Na twee dagen wordt hij vergeven en weer opgenomen in de gemeenschap.

‘De beste manier om tot respect te komen, is door de ander het voordeel van de twijfel te geven. Zo kunnen we ons bevrijden van de schaamtemachine.’

Om het verschil tussen gezonde en ongezonde schaamte te verhelderen, bedient O’Neil zich van de termen punching up en punching down – misschien het best te vertalen als omhoog en omlaag trappen. De terminologie leende ze van stand-up comedy, vertelt O’Neil. ‘Het betekent simpelweg: trap je omhoog naar machtige mensen, of omlaag naar machteloze mensen? Werp je je op iemand die geen stem heeft, of wil je de macht aansprakelijk houden? En voor de duidelijkheid: stem is een relatief begrip. Als het binnen je familie is, heb je meestal een stem. Je hebt geen formele macht nodig om een stem te hebben. Als jij wordt gebodyshamed door je oma, dan kan je haar wel van repliek dienen.’

Mits je doorhebt dat er sprake is van shaming. In uw boek legt u ook veel vormen van vernedering bloot die we niet lijken te zien.

‘Mijn doel met dit boek is niet om de lezer te shamen, ik wil hem tot denken aanzetten: wordt er omhoog of omlaag getrapt?’

Toch is dat soms moeilijk in te schatten. Wat de Pueblo doen, is niet eenduidig naar boven trappen, toch?

‘Maar degene naar wie wordt getrapt, heeft wel een stem, hij maakt deel uit van de gemeenschap. Wat ook belangrijk is, is dat het gezien wordt als hij zich betert. Stopt hij met drank smokkelen, dan wordt hij bij de volgende ceremonie gespaard. In het geval van punching down wordt iemand uit de groep gezet en kan hij geen eerherstel krijgen. Tekenend voor shaming op sociale media, is dat van de vernederde alleen bekend is wat hij verkeerd heeft gedaan. Je krijgt zelden mee dat iemand zich verdedigt, of zich van zijn goede kant kan laten zien.’

Er zijn ook mensen die überhaupt geen stem hebben. In uw boek vertelt u over daklozen in New York die bij de uitbraak van de pandemie werden ondergebracht in een luxehotel. Daar mochten ze echter niet in de bedden slapen, maar kregen ze stretchers. U voert het op als een voorbeeld van shaming, maar konden daar geen andere redenen voor zijn?

‘Ik wil niet impliceren dat het de bedoeling was om de daklozen te vernederen, dat zou te simplistisch zijn en waarschijnlijk onjuist. Wat ik met het voorbeeld wilde laten zien, is dat er inherent vernederende institutionele regels en ontwerpen zijn.’

U citeert een dakloze over de kwestie: ‘Ze willen dat we ongemak ervaren. Ze willen ons vernederen.’

‘Ik denk niet dat hij daarbij aan specifieke personen dacht, maar aan het systeem waar hij deel van uitmaakte. En ik vind dat hij gelijk heeft. Ik werkte eens in een datagroep voor het stadhuis van New York, om fraude op te sporen onder mensen die overheidssteun kregen. Een systematische datacheck dus, om arme mensen te kunnen beschuldigen. We gebruikten de data ook om in te schatten hoelang iemand dakloos zou blijven – deze mensen werden puur benaderd als kostenposten. Ik zou niet verbaasd zijn als de afweging tussen bed en stretcher gemaakt was om mensen zich minder comfortabel te doen voelen. Ik zeg niet dát het zo gegaan is. Maar het systeem is wel zo ontworpen dat het vernederend is voor daklozen.’

U heeft vast iets meegekregen van het Nederlandse toeslagenschandaal?

‘Daar heb ik van gehoord ja. Ik ontwikkelde in New York een algoritme dat precies hetzelfde deed.’

Een perfect voorbeeld van een weapon of math destruction.

‘Juist, en ook van het vernederen van arme mensen. Zo’n algoritme is een gereedschap van de schaamtemachine.’

Moeten we het kapitalisme, of het neoliberalisme, de schuld geven van die geoliede schaamtemachine?

‘Zeker. Eigenlijk had ik ook een hoofdstuk willen schrijven over meritocratie-schaamte, wat volgens mij absoluut verbonden is aan zowel neoliberalisme als kapitalisme: de notie dat we allemaal krijgen wat we verdienen, als we hard werken en verdienstelijk zijn. Je weet wel, the cream rises to the top: het goede komt vanzelf bovendrijven. Als neoliberalen voelen we dat we recht hebben op onze rijkdom, alsof we het verdienen. Maar met die redenering zeg je ook dat wie niet rijk is, het dus niet heeft verdiend – shame on them. We zijn zo gewend aan deze ideologie, dat we moeite hebben om er op een andere manier naar te kijken.’

Waarom is dit hoofdstuk dan toch geschrapt?

‘Er kwam een aantal goede boeken uit die dit heel goed uitleggen.’

Hoe kunnen we de schaamtemachine ontmantelen op institutioneel niveau?

‘Daarvoor kunnen we het best het waardigheidsmodel van de psycholoog Donna Hicks gebruiken. Zij werkte als internationaal conflictbemiddelaar, en ontdekte dat mensen pas tot elkaar kunnen komen als ze zich werkelijk gerespecteerd voelen door de ander. De beste manier om tot respect te komen, is door de ander het voordeel van de twijfel te geven. Zo kunnen we ons bevrijden van de schaamtemachine.’

Cancel-culture

De Pueblo-ceremonies doen ook denken aan cancel culture. Mensen die een misstap begaan worden op het digitale dorpsplein met grootse gebaren vernederd. O’Neil beschrijft bijvoorbeeld hoe een zogeheten ‘Karen’ – een stereotype veeleisende, racistische witte vrouw – ten onrechte de politie belt om een zwarte man aan te geven. Zo iemand kan door de Twitter-schandpaal haar baan verliezen, en daarna is publiekelijk eerherstel eigenlijk niet meer te behalen.

Dienen deze brute online schaamteceremonies wellicht ook een functie in het bepalen van nieuwe normen?

‘Het decimeert degene in de spotlight. Tegelijkertijd is het een waarschuwingsverhaal: je wilt niet de volgende Karen worden. In die zin kun je het zien als een positief gebruik van schaamte. Maar dan nog denk ik dat we beter omhoog zouden kunnen schoppen. Het probleem met de Karen-filmpjes is hoe de politie reageert als een witte vrouw belt, terwijl degene over wie ze haar beklag doet helemaal niets verkeerds doet. Zonder die onverantwoordelijke reactie zouden Karens betekenisloos zijn.

‘Ik geloof dat mensen vrij willen zijn, en vriendelijk, en hoopvol. Maar die hoop begint met het uittekenen van een betere wereld die minder door schaamte wordt gedreven.

Je hebt gelijk als je zegt dat het soms moeilijk is in te schatten: doen we nu aan punching up of punching down? Ik wil het ook niet simplificeren. Maar soms is het wél helder. Elkaar kapotmaken op sociale media is meer punching down dan het oprichten van een vakbond. Dat is zo helder als het fucking kan zijn. Maar we denken dat elkaar beter te lijf kunnen gaan op sociale media, dan de regels te veranderen. Zo zijn we geconditioneerd.’

In die zin kunnen we sociale media ook ten goede gebruiken, natuurlijk.

‘Sinds ik aan dit project over schaamte ben begonnen, heb ik er altijd op gelet of ik op sociale media wel omhoog schopte. Als ik twijfelde, plaatste ik niets.’

Mensen vergeten ook dat er achter een sociale media-account een echt persoon zit. Het voelt al gauw alsof je omhoog trapt, terwijl je eigenlijk het omgekeerde doet.

‘Ja, en voor een machteloos iemand voelt het altijd alsof hij omhoog schopt, en nooit alsof hij een terecht doelwit is voor schaamte.’

De online anonimiteit maakt het ook verleidelijker iemand te shamen.

‘Veel verleidelijker. Het geeft een gevoel van macht, en het lijkt ongevaarlijk. Je loopt niet het risico dat iemand je een klap geeft, zoals in de fysieke realiteit. Veel van wat er online gebeurt, zou in het echte leven nooit navolging vinden.’

De BLM-beweging en #MeToo zijn mooie voorbeelden van punching up. Maar complotdenkers en de Capitool-bestormers vinden ook dat ze omhoog schoppen.

‘Als je anderen fysiek pijn doet, dan is dat geen kwestie van shamen, maar van geweld. Maar sommige complotdenkers proberen wel degelijk omhoog te schoppen. Ik ben het niet met ze eens, ik vind dat ze ernaast zitten, maar zolang het bij protesteren blijft, is het een poging tot punching up.’

Na het toeslagenschandaal werd de Nederlandse regering flink geshamed. Maar nadat de regering viel, werd de premier gewoon weer herkozen. Had de schaamte zijn werk niet gedaan?

‘Dat zou ik zo gauw niet zeggen. Punching up duurt altijd langer dan je zou verwachten. Dat wil niet zeggen dat er niets veranderd is, vooruitgang is moeilijk te meten.’

De techbedrijven worden de laatste jaren ook fel bekritiseerd, onder meer vanwege de praktijken die u hier eerder noemde. Heeft de gezonde schaamte daar al effect?

‘Ja, vooral bij Facebook. Hoe vaker mensen – minister-presidenten, CEO’s – onder vuur liggen, hoe voorzichtiger ze moeten worden. Er is geen garantie dat ze helemaal veranderen, en misschien moeten ze op een gegeven moment weggestuurd worden. Maar het idee is dat schaamte mensen ertoe drijft het juiste te doen.’

Wij hebben met die online schaamtemachine te maken sinds we volwassen zijn, maar de jongste generaties groeien ermee op. Moeten we hen ertegen wapenen?

‘Ik denk dat ze al meer weten dan wij. Sommigen van hen zullen verschrikkelijke fouten maken en harde lessen leren, anderen zullen de complete shitshow van de moderniteit van een afstand observeren en er nooit aan meedoen. Waar ik me zorgen over maak, is dat ze cynisch of nihilistisch zullen opgroeien. Maar niet zo naïef en manipuleerbaar als mijn eigen generatie.’

Zijn we ons als samenleving inmiddels wel genoeg bewust van weapons of math destruction? Loopt het tijdperk van blind vertrouwen in big data ten einde, of hebben we nog een lange weg te gaan?

‘We zijn ons veel bewuster van de problematische natuur van geheime algoritmes die beslissingen voor ons nemen. Wat we eraan doen, is een tweede. Het kan nog jaren duren, en als we verkeerde keuzes maken, kunnen we zomaar op China gaan lijken, waar surveillance nadrukkelijk wordt ingezet als middel voor sociale controle.’

Bent u hoopvol over de toekomst?

‘Ik ben niet zonder hoop. Ik geloof dat mensen vrij willen zijn, en vriendelijk, en hoopvol. Maar die hoop begint met het uittekenen van een betere wereld die minder door schaamte wordt gedreven. Daar moeten we voor vechten.’