Een drone die zonder aansturing van een mens een doelwit uitkiest en aanvalt. Zorgen om de inzet van door AI aangestuurde drones bestaan al langer, maar nu is er voor het eerst een geval gedocumenteerd waarbij ook burgerslachtoffers zijn gevallen. Hoe zorg je ervoor dat deze ‘killer drones’ alleen militaire doelen raken, en geen onschuldige burgers?

De aanval waar het om gaat vond plaats op 6 juli in de Oekraïense stad Zaporizja. Die dag vliegen zes drones de stad binnen met als doelwit een benzinestation. Bij de aanval komen drie mensen om het leven, onder wie de 19-jarige studente Tatiana Bubynets.

Specialisten onderzochten de brokstukken van de drones en concludeerden deze week dat het om autonome drones ging. Oftewel: drones die zelf een doelwit herkennen en bepalen of dat doelwit moet worden uitgeschakeld. In het geval van de drone-aanval in Zaporizja kregen de drones waarschijnlijk instructies om naar dit benzinestation te vliegen en eenmaal daar het precieze doel te kiezen.

Of de drones de drie burgers daadwerkelijk als doelwit aanmerkten, is niet met zekerheid te zeggen. Maar het is wel mogelijk, zegt de Oekraïense drone-expert Vadym Kushnikov. Hij was betrokken bij het onderzoek naar de drones. “Omdat de drone zelf het doelwit kan bepalen, kan die ook op het laatste moment van doelwit veranderen. Hij kan dus ook op een mens vergrendelen en die persoon tot aan de inslag blijven achtervolgen.”

In deze video legt Nieuwsuur uit hoe oorlogvoering met AI werkt en wat de risicio’s zijn:

Dat het om AI-aangestuurde drones ging, bleek onder andere uit de chips die de onderzoekers aantroffen. Die chips, van de Amerikaanse fabrikant Nvidia, werken met hoogwaardige AI-systemen. Het ontbreken van antennes op de drones wees er bovendien op dat er geen menselijke aansturing aan te pas kwam.

Het gebruik van AI in oorlogsvoering is inmiddels wijdverspreid. De Amerikanen gebruiken bijvoorbeeld al jarenlang AI om inlichtingen razendsnel te analyseren en doelen te bepalen. En ook de nieuwste Oekraïense drones kunnen onderweg doelen herkennen en daar op af vliegen.

“Je kunt een computer gewoon leren hoe een Russische tank eruitziet, dat is relatief eenvoudig”, legt defensiespecialist Peter Wijninga uit. “Maar het doden van mensen is toch wel een stap verder.”

Afspraken nodig

De Verenigde Naties en het Rode Kruis maken zich grote zorgen om deze ontwikkeling. “We staan gevaarlijk dicht bij het overschrijden van een morele grens: het autonoom aanvallen van mensen door machines”, zeggen de organisaties in een persverklaring(opent in nieuw venster). De organisaties vinden dat er op een wapentop in Genève in november duidelijke afspraken moeten worden gemaakt.

“In het Westen neigt men een ethische grens te trekken”, zegt Wijninga. “Dat bijvoorbeeld wordt afgesproken: de hele vlucht kan autonoom plaatsvinden, de doelherkenning kan autonoom plaatsvinden op basis van criteria. Maar dat er, voordat de drone tot de aanval overgaat, zogenoemde ‘zinvolle menselijke tussenkomst’ is. Met andere woorden: iemand die besluit of de aanval wordt doorgezet of afgebroken.”

Ook drone-expert Kushnikov verwacht dat in Genève beperkingen zullen worden besproken over de inzet van AI-drones. Maar hoge verwachtingen heeft hij daarvan niet. “Ik denk niet dat het veel uitmaakt voor de praktijk die we nu zien, waarbij de Russen deze drones gebruiken tegen de burgerbevolking.”