Daarvoor pleiten 116 deskundigen in een open brief aan de VN.
Het is niet voor het eerst dat deskundigen in een open brief de noodklok luiden over moordende robots en het onheil dat zij met zich meebrengen. Dat gebeurde in 2015 ook al. Toch is deze nieuwe open brief (je kunt ‘m hier lezen) bijzonder. Het is namelijk voor het eerst dat naast onderzoekers ook oprichters van bedrijven die handelen in robots en kunstmatige intelligentie hun handtekening onder de brief hebben gezet.
Revolutie
In de brief waarschuwen de ondertekenaars voor het enorme gevaar dat van de robotica uit kan gaan. “Dodelijke autonome wapens dreigen de derde revolutie in de oorlogsvoering te worden,” zo is in de brief te lezen. “Zodra ze ontworpen zijn, zullen ze ervoor zorgen dat gewapende conflicten op een grotere schaal dan ooit en veel sneller dan mensen kunnen begrijpen, worden uitgevochten. Het kunnen wapens van terreur zijn, wapens die dictators en terroristen gebruiken tegen onschuldige populaties, maar ook gehackte wapens die zich op ongewenste manieren gedragen.” Het klinkt misschien als verre toekomstmuziek. Maar daarin kun je je wel eens vergissen. “Er is niet veel tijd meer. Zodra deze doos van Pandora open is, zal het heel lastig zijn om deze weer te sluiten.”
Velociraptors
Professor Mary-Anne Williams, verbonden aan de Technische Universiteit van Sydney is het daar helemaal mee eens. In een reactie schrijft ze: “In de nabije toekomst kunnen gewapende robots lijken op de velociraptors in Jurassic Park: ze bewegen zich lenig en pijlsnel en zijn in staat om mensen met heel precieze sensoren en informatie van computernetwerken, op te sporen. Stel je een robot voor die een bomgordel draagt, in staat is om lichaamswarmte of een hartslag te detecteren en op afstand bestuurbaar is of zelfs in staat is om zelf te beslissen wie en wat hij gaat vernietigen.” Een angstaanjagend beeld. Het goede nieuws is dat de robotica op dit moment nog niet zover is. Maar de ontwikkelingen gaan snel, waarschuwt Williams. “Als we vandaag een moordende robot zouden bouwen, zou deze op een heel andere manier gevaarlijk zijn. Hij zou meer lijken op een ongelukkige, onstabiele peuter met een AK47 in de handen en het verlangen om ‘slechte’ mensen te doden. Robots hebben vandaag de dag een beperkte perceptie en zijn ook niet zo heel mobiel, maar we worden in rap tempo beter, zowel op het gebied van intelligentie als autonomie.”
De tijd dringt
De vraag is dan ook niet of er robots ontwikkeld kunnen worden die in staat zijn om mensen op te zoeken en te doden. Het is meer de vraag wanneer dat gaat gebeuren. En voor het zover is, moet er een verbod komen op dergelijke robots. “Ik denk dat er een kans is dat we voor de verandering een soort rechtskader op kunnen stellen voor de technologie er is,” aldus onderzoeker James Harland. “En dus de samenleving in staat kunnen stellen om de technologie te controleren in plaats van andersom.”
Verbod lijkt niet haalbaar
Maar of een verbod op de moordende robots haalbaar is? Williams heeft haar twijfels. “Het opleggen van zo’n verbod is problematisch en zorgt voor andere problemen.” Want een land dat het verbod naleeft, wordt kwetsbaar ten opzichte van een land dat dat niet doet. Bovendien is een verbod waarschijnlijk heel lastig te handhaven, omdat moordende robots in principe door iedereen kunnen worden gemaakt. “De aard van vernietigende wapens verandert: ze zijn in toenemende mate zelfgemaakt. Je kunt een pistool 3D-printen, een bom lanceren met behulp van een drone en gewone auto’s veranderen in wapens. Samenlevingen en naties hebben veel meer nodig dan een ban op moordende robots.”
Zal de open brief de VN spoedig in beweging brengen? Het lijkt twijfelachtig. Er zijn zoveel andere – concretere – politieke issues die om voorrang vragen. Toch is er ook voorzichtig goed nieuws. Zo heeft de VN een Group of Governmental Experts on LethalAutonomous Weapon Systems samengesteld. De groep moet onderzoek doen en adviseren als het gaat om KI en robotica. Een eerste samenkomst van de groep zou deze week plaatsvinden, maar is uitgesteld naar november. En tijdens die bijeenkomst moeten de experts er een stapje bij doen, zo stellen de ondertekenaars in hun open brief. Want één ding is zeker: de moordende robots gaan niet zitten wachten op weifelende politici.
