Pentagon geeft robots geen 'licence to kill'

Het Amerikaanse ministerie van Defensie heeft nieuwe richtlijnen uitgevaardigd voor de ontwikkeling en het gebruik van onbemande vliegtuigen. Die zullen in de toekomst steeds autonomer worden, zegt het Pentagon, maar de beslissing om te doden moet altijd door een mens genomen worden.

De X-47B. Beeld AFP
De X-47B.Beeld AFP

Het gebruik van onbemande vliegtuigen zit enorm in de lift: een op de drie nieuwe vliegtuigen van de Amerikaanse strijdkrachten is nu een zogenaamde drone. De toestellen worden ook steeds geavanceerder en kunnen steeds meer taken autonoom uitvoeren. Het nieuwe X-47B prototype van de Amerikaanse marine kan bijvoorbeeld al zo goed als autonoom landen op een vliegdekschip.

Dat leidt tot ongerustheid bij mensenrechtengroeperingen, want de robots zouden op termijn wel eens zelf kunnen gaan beslissen of een doelwit gerechtvaardigd is of niet. Een nieuwe beleidsbrief binnen het Pentagon sluit dat uit.

Wachten op orders
In het document, dat eerder deze week getekend werd door onderminister van Defensie Ashton Carter en gepubliceerd werd door Cryptome.org, worden enkele lijnen uitgezet voor de ontwikkeling en het gebruik van onbemande toestellen, om 'de kans op en de consequenties van fouten door onbedoelde aanvallen te minimaliseren.'

De hardware en software van de robots die door de VS aangekocht en gebruikt worden moeten daarom voorzien zijn van 'veiligheidsmechanismen, beveiliging tegen sabotage en een verzekerde informatiestroom'. Er moet ook een overzichtelijke interface zijn voor beheer en controle. Maar het belangrijkste: elk toestel moet handelen volgens de bedoelingen van de operator en de bevelhebber, en als dat om de een of andere reden niet kan, moet de aanval worden afgeblazen of moet gewacht worden op duidelijke orders.

Verantwoordelijkheid?
Vorige week bracht de mensenrechtenorganisatie Human Rights Watch nog het rapport Losing Humanity uit, in samenwerking met de Harvard Law School International Human Rights Clinic. Het rapport waarschuwt voor te autonome onbemande toestellen. Niet alleen ontbreekt een belangrijke menselijke overweging, zegt de organisatie, maar er zijn ook belangrijke juridische consequenties: wie is verantwoordelijk voor de autonome beslissing van een drone?

Human Rights Watch pleit voor een internationaal bindend verdrag om de ontwikkeling, productie en het gebruik van volledige autonome wapens te verbieden.

Meer over