{"id":7135,"date":"2015-07-28T21:11:27","date_gmt":"2015-07-28T19:11:27","guid":{"rendered":"http:\/\/beta.vn.nl\/?post_type=shortread&p=7135"},"modified":"2015-07-29T11:24:21","modified_gmt":"2015-07-29T09:24:21","slug":"dit-is-een-goed-moment-om-de-machines-te-stoppen","status":"publish","type":"post","link":"https:\/\/www.vn.nl\/dit-is-een-goed-moment-om-de-machines-te-stoppen\/","title":{"rendered":"Dit is een goed moment om de machines te stoppen"},"content":{"rendered":"
\n

De autonome wapens die nu ontwikkeld worden\u00a0zijn geen Megatron of 3CPO of T-1000. Die zijn nog even ver weg als ooit. Maar het wordt steeds makkelijker om\u00a0 artificiele intelligentie (AI) voor oorlogsvoering te gebruiken en dit is een\u00a0uitstekend moment om te zorgen dat het niet uit de hand loopt.<\/p>\n<\/div>\n

Gisteren waarschuwde een clubje professoren\u00a0onder leiding van Elon Musk, Steve Wozniak en Stephen Hawking voor de ontwikkeling van autonome wapens: wapens die kunnen selecteren en afvuren zonder menselijke beslissing. Dat deden ze in een open brief<\/a> die ondertekend werd door\u00a0een heleboel professoren en ontwikkelaars uit het vakgebied van de artifici\u00eble intelligentie. Ze schrijven:<\/p>\n

‘Wij geloven dat AI potentieel veel goeds kan doen voor de mensheid en dat het vakgebied zich daarop zou moeten richten. Het beginnen van een wapenwedloop is\u00a0een slecht idee en moet voorkomen worden door een verbod op offensieve autonome wapens\u00a0zonder betekenisvolle menselijke controle.’<\/p>\n

Het gaat ze niet om vechtrobots die je van een afstandje bestuurt en die\u00a0oorlogen uitvechten zonder bloedvergieten. Het gaat om robots die zelf beslissingen nemen. Die techniek bestaat al en wordt steeds makkelijker te produceren. Zo kan je een robot bouwen die ontploft zodra hij een plek bereikt waar zoveel mogelijk slachtoffers rondlopen. Of een robot die\u00a0alleen ontploft in de buurt van een bepaalde huidskleur of geslacht.<\/p>\n

En het gaat verder:\u00a0je kan robots zelf laten nadenken door ze veel data\u00a0te laten verzamelen en de keuze op basis daarvan aan henzelf over te laten: maak\u00a0slachtoffers met de grootste impact, vernietig de noodzakelijke infrastructuur, zoek wat de ergste fysieke pijn veroorzaakt, ontwricht een stad. Met big data en veel rekenkracht kunnen computers effici\u00ebntere keuzes maken dan mensen, maar dan niet gehinderd door ingewikkelde morele\u00a0dilemma’s.<\/p>\n

Het gebruik van autonome wapens valt natuurlijk ook binnen de internationale verdragen over wapengebruik, zo redeneren de meeste politici. In dit VN-verdrag<\/a> zegt VN-rapporteur Philip Alston over drones: ‘ze verschillen niet van de gebruikelijke wapens, omdat de essentie van de wetgeving hetzelfde is: dat ze moeten voldoen aan de verdragen over internationaal humanitair recht.’ Het grote probleem daarmee: de verantwoordelijkheid ligt nog steeds bij de\u00a0mensen. Maar wat als de machines zelf beslissingen nemen? Bijvoorbeeld: je laat een robot twintig aanslagen bestuderen om zo een nieuwe aanslag te voorkomen. De robot zoekt naar patronen en besluit een groep kinderen op te blazen voordat ze terroristen kunnen worden. Niemand heeft die beslissing genomen. Geen mens is verantwoordelijk.<\/p>\n

Het voorstel van Musk, Hawking en Wozniak zit goed in elkaar. Ze richten zich niet op machines die het vuile werk voor ons doen, maar op machines die zelf beslissen wat het vuile werk is. Het is schier onmogelijk om Rusland, Isra\u00ebl en de VS ervan te overtuigen hun wapens in te leveren. Maar als zij, met hun enorme legerbudgetten, niet langer in de ontwikkeling van autonoom oorlogsmateriaal investeren, dan blijft er weinig ontwikkeling over. En we kunnen landen net zo\u00a0verantwoordelijk maken voor hun zelfdenkende drones als voor hun soldaten. Dat is nu nog niet zo.<\/p>\n

De petitie gaat niet over een naderende revolutie van moordmachines. Het gaat over beslissingen waar geen mens verantwoordelijk voor is.<\/p>\n","protected":false},"excerpt":{"rendered":"

De autonome wapens die nu ontwikkeld worden\u00a0zijn geen Megatron of 3CPO of T-1000. Die zijn nog even ver weg als ooit. Maar het wordt steeds makkelijker om\u00a0 artificiele intelligentie (AI) voor oorlogsvoering te gebruiken en dit is een\u00a0uitstekend moment om te zorgen dat het niet uit de hand loopt. Gisteren waarschuwde een clubje professoren\u00a0onder leiding […]<\/p>\n","protected":false},"author":1023,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"content-type":"","ep_exclude_from_search":false,"footnotes":""},"tags":[],"class_list":["post-7135","post","type-post","status-publish","format-standard","hentry"],"acf":[],"author_name":"Tim de Gier","_links":{"self":[{"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/posts\/7135","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/comments?post=7135"}],"version-history":[{"count":0,"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/posts\/7135\/revisions"}],"author":[{"embeddable":true,"name":"Tim de Gier","href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/users\/1023"}],"wp:attachment":[{"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/media?parent=7135"}],"wp:term":[{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.vn.nl\/wpg-api\/wp\/v2\/tags?post=7135"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}