{"id":5561,"date":"2015-07-08T14:58:09","date_gmt":"2015-07-08T12:58:09","guid":{"rendered":"http:\/\/beta.vn.nl\/?post_type=shortread&p=5561"},"modified":"2015-07-09T16:08:54","modified_gmt":"2015-07-09T14:08:54","slug":"google-is-seksistisch-net-als-wij","status":"publish","type":"post","link":"https:\/\/www.vn.nl\/google-is-seksistisch-net-als-wij\/","title":{"rendered":"Google is seksistisch. Net als wij"},"content":{"rendered":"
\n

Google’s algoritmes pakken seksistisch en racistisch uit. Is dat gevaarlijk, of weerspiegelt het gewoon onze samenleving?<\/p>\n<\/div>\n

Als vrouw ben je minder geschikt voor goedbetaalde banen. Dat vind ik niet, dat vindt Google. Of beter gezegd: dat doet Google. Uit een deze week gepresenteerd onderzoek<\/a> van de Carnegie Mellon University blijkt dat vrouwen die via Google werk zoeken ook op andere sites veel minder advertenties voor de topfuncties\u00a0te zien krijgen dan mannen.<\/p>\n

Die verdraaide algoritmes van Google ook altijd. We wisten natuurlijk allang dat die niet te vertrouwen zijn. Maar deze keer is het wel extra pikant. De onderzoekers zochten namelijk met verse accounts, zonder zoekgeschiedenis. Alleen het vakje geslacht zorgde dus voor het verschil. Ook interessant was dat accounts die op drugsgebruik hadden gezocht, advertenties te zien kregen van verslavingsklinieken. Terwijl in de Google-instellingen waar je kunt vinden welke informatie er wordt gebruikt voor je persoonlijke advertenties, die informatie niet terug te vinden was. Kennelijk gebruikt Google toch meer gegevens dan het zelf toegeeft.<\/p>\n

Logisch, kun je denken. In de offline wereld hebben vrouwen ook minder topfuncties. Op het internet wordt dat alleen herhaald. En dat adverteerders zich op specifieke doelgroepen richten: nogal wiedes. Algoritmes zijn mensenwerk en weerspiegelen gewoon de samenleving.<\/p>\n

Maar wat uit dit nieuwe experiment blijkt is dat de precieze mechanismen steeds mistiger worden. Want had Google nou zelf bepaald dat vrouwen andere advertenties te zien krijgen, of waren het de adverterende bedrijven? Daarover laat de zoekgigant zich niet uit. En op welke zoektermen slaan advertenties precies aan? Dat drugsgebruik leidt naar verslavingsklinieken klinkt logisch. Maar wat als Google uit je zoekopdrachten weet op te maken dat je zwanger bent. Krijg je dan ook andere banen te zien?<\/p>\n

Het wordt, kortom, steeds ingewikkelder te achterhalen\u00a0waarom je iets\u00a0nou wel of niet te zien krijgt. Waar de schuld in deze specifieke zaken ligt is al niet meer te zeggen, benadrukken ook de onderzoekers. Zij denken<\/a>\u00a0dat Google zelf ook niet meer precies overzicht heeft over haar \u2018massive, automated advertising system.\u2019 De machine gedraagt zich soms op onverwachte manieren. Dat bleek vorige maand ook toen Googles fotoherkenning een zwarte vrouw automatisch als \u2018gorilla\u2019 tagde<\/a>. Zo pijnlijk, dat je zeker weet dat het bedrijf het niet zelf zo heeft ingesteld. Maar ergens in de lerende machine is het wel fout gelopen.<\/p>\n

Schiet de machine nu dus definitief gevaarlijk uit de bocht? Dat valt waarschijnlijk wel mee. Wat de voorbeelden vooral duidelijk maken is dat we\u00a0constant moeten bekijken hoe algoritmes in de praktijk uitwerken. Voor seksisme en racisme hebben we inmiddels een scherp oog. Maar wat er nog meer voorgekookt wordt weten we misschien wel nog wel niet.<\/p>\n

De vraag die ik interessant vind is: is het algoritmische seksisme of racisme schadelijker\u00a0dan dat van echte mensen? Een overduidelijk\u00a0seksistische baas is schokkend, maar wel eenvoudig te herkennen. Algoritmisch seksisme is sluipend, maar blijft mensenwerk en kan dus worden bijgestuurd. Ik denk zelf dat de mens de machine in gebrekkigheid\u00a0nog wel even blijft overtreffen.<\/p>\n","protected":false},"excerpt":{"rendered":"

Google’s algoritmes pakken seksistisch en racistisch uit. Is dat gevaarlijk, of weerspiegelt het gewoon onze samenleving? Als vrouw ben je minder geschikt voor goedbetaalde banen. Dat vind ik niet, dat vindt Google. Of beter gezegd: dat doet Google. Uit een deze week gepresenteerd onderzoek van de Carnegie Mellon University blijkt dat vrouwen die via Google […]<\/p>\n","protected":false},"author":1023,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"content-type":"","ep_exclude_from_search":false,"footnotes":""},"tags":[],"class_list":["post-5561","post","type-post","status-publish","format-standard","hentry"],"acf":[],"author_name":"Clara van de Wiel","_links":{"self":[{"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/posts\/5561","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/comments?post=5561"}],"version-history":[{"count":0,"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/posts\/5561\/revisions"}],"author":[{"embeddable":true,"name":"Clara van de Wiel","href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/users\/1023"}],"wp:attachment":[{"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/media?parent=5561"}],"wp:term":[{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/tags?post=5561"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}