De autonome wapens die nu ontwikkeld worden zijn geen Megatron of 3CPO of T-1000. Die zijn nog even ver weg als ooit. Maar het wordt steeds makkelijker om  artificiele intelligentie (AI) voor oorlogsvoering te gebruiken en dit is een uitstekend moment om te zorgen dat het niet uit de hand loopt.

Gisteren waarschuwde een clubje professoren onder leiding van Elon Musk, Steve Wozniak en Stephen Hawking voor de ontwikkeling van autonome wapens: wapens die kunnen selecteren en afvuren zonder menselijke beslissing. Dat deden ze in een open brief die ondertekend werd door een heleboel professoren en ontwikkelaars uit het vakgebied van de artificiële intelligentie. Ze schrijven:

‘Wij geloven dat AI potentieel veel goeds kan doen voor de mensheid en dat het vakgebied zich daarop zou moeten richten. Het beginnen van een wapenwedloop is een slecht idee en moet voorkomen worden door een verbod op offensieve autonome wapens zonder betekenisvolle menselijke controle.’

Het gaat ze niet om vechtrobots die je van een afstandje bestuurt en die oorlogen uitvechten zonder bloedvergieten. Het gaat om robots die zelf beslissingen nemen. Die techniek bestaat al en wordt steeds makkelijker te produceren. Zo kan je een robot bouwen die ontploft zodra hij een plek bereikt waar zoveel mogelijk slachtoffers rondlopen. Of een robot die alleen ontploft in de buurt van een bepaalde huidskleur of geslacht.

En het gaat verder: je kan robots zelf laten nadenken door ze veel data te laten verzamelen en de keuze op basis daarvan aan henzelf over te laten: maak slachtoffers met de grootste impact, vernietig de noodzakelijke infrastructuur, zoek wat de ergste fysieke pijn veroorzaakt, ontwricht een stad. Met big data en veel rekenkracht kunnen computers efficiëntere keuzes maken dan mensen, maar dan niet gehinderd door ingewikkelde morele dilemma’s.

Het gebruik van autonome wapens valt natuurlijk ook binnen de internationale verdragen over wapengebruik, zo redeneren de meeste politici. In dit VN-verdrag zegt VN-rapporteur Philip Alston over drones: ‘ze verschillen niet van de gebruikelijke wapens, omdat de essentie van de wetgeving hetzelfde is: dat ze moeten voldoen aan de verdragen over internationaal humanitair recht.’ Het grote probleem daarmee: de verantwoordelijkheid ligt nog steeds bij de mensen. Maar wat als de machines zelf beslissingen nemen? Bijvoorbeeld: je laat een robot twintig aanslagen bestuderen om zo een nieuwe aanslag te voorkomen. De robot zoekt naar patronen en besluit een groep kinderen op te blazen voordat ze terroristen kunnen worden. Niemand heeft die beslissing genomen. Geen mens is verantwoordelijk.

Het voorstel van Musk, Hawking en Wozniak zit goed in elkaar. Ze richten zich niet op machines die het vuile werk voor ons doen, maar op machines die zelf beslissen wat het vuile werk is. Het is schier onmogelijk om Rusland, Israël en de VS ervan te overtuigen hun wapens in te leveren. Maar als zij, met hun enorme legerbudgetten, niet langer in de ontwikkeling van autonoom oorlogsmateriaal investeren, dan blijft er weinig ontwikkeling over. En we kunnen landen net zo verantwoordelijk maken voor hun zelfdenkende drones als voor hun soldaten. Dat is nu nog niet zo.

De petitie gaat niet over een naderende revolutie van moordmachines. Het gaat over beslissingen waar geen mens verantwoordelijk voor is.