Droht uns ein Krieg mit den Maschinen wie in der Terminator-Saga? Eher nicht. Trotzdem ist die Gefahr von autonomen Waffensystemen vollkommen real. Denn Militärs und Rüstungsfirmen investieren derzeit Milliarden, um Drohnen und Roboter zu entwickeln, die selbst entscheiden können, ob und wen sie töten – oder auch nicht. Davon, dass dieses Science-Fiction-Szenario real wird, sind wir laut Experten nicht mehr Jahrzehnte, sondern nur noch wenige Jahre entfernt.

Bereits seit Jahren setzen mehrere Länder auf Waffensysteme, die kaum noch einen Menschen brauchen, etwa auf Loitering Attack Munitions. Das sind Waffen, die Namen wie Fire Shadow oder IAI Harop tragen und von den USA und Russland über Israel, Chile bis hin zu Südkorea und der Türkei eingesetzt werden. Dabei handelt es sich meist um simple Sprenggranaten mit Flügeln. Angetrieben von kleinen Rotoren können sie stundenlang über Gebieten kreisen und mit Wärmebild- und Radarsensoren nach Zielen suchen – und sich dann darauf stürzen. […] „Wir nennen sie die Vorläufer [der voll-autonomen Waffen]“, sagte daher Mary Wareham, Regisseurin und Expertin für Waffen bei Human Rights Watch bei einem Treffen der Vereinten Nation im Jahr 2019. „Wir sind noch nicht ganz bei den autonomen Waffensystemen angekommen, aber wir kommen immer näher.“

Wer trägt die Verantwortung?

Was das Szenario so greifbar macht, ist, dass viele aktuelle Waffensysteme wie Drohnen, Panzer und ferngelenkte Kriegsroboter bereits darauf ausgelegt sind, autonom und ohne Mensch am Steuer zu funktionieren. Sie sind schon mit Sensoren und Kameras ausgestattet – und mit High-Speed-Datenverbindungen zu Militärbasen, wo die Piloten sitzen. Daher bräuchte es in manchen Fällen nur ein Software Update, um die Kontrolle über sie an eine künstliche Intelligenz zu übergeben. Entsprechende Steuer-Software wird auch bereits entwickelt. Sie basiert auf den KI-Technologien, die Großmeister im Schach geschlagen haben oder selbstfahrende Autos steuern.

Das Office of Naval Research der US-Marine arbeitet seit mehreren Jahren an einem Projekt namens Swarm Boats. Ziel sind automatisierte Boote, die selbstständig Flugzeugträger und Kreuzer beschützen. „Die neue Technologie ermöglicht es den USVs – den unbemannten schwimmenden Vehikeln –, angreifende Gegner zu erkennen, abzuschrecken oder zu zerstören“, heißt es auf der Seite zum Projekt. Noch muss die Kommandobrücke jeden Schuss eines Bootes bestätigen. Aber bei einem Test mit mehreren autonomen Booten im Jahr 2014 konnte das Control Architecture for Robotic Agent Command and Sensing – kurz CARACaS – getaufte System bereits andere Boote als feindlich identifizieren und den Schwarm erfolgreich darauf ansetzen.

Forscher und Menschenrechtsaktivisten sehen die Gefahr, dass diese Technologien gänzlich neue Waffen hervorbringen. Wie etwa Schwärme von Mini-Drohnen, die sich mit Sprengsätzen auf mutmaßliche Feinde stürzen. Ein solches System hat China erst Ende des vergangenen Jahres präsentiert. Geht es nach Militär- und Terror-Experten, wird es nicht lange dauern, bis dann auch Terroristen derartige Waffen nutzen, um für Chaos und Angst zu sorgen. Daher appellieren sie sowohl an Entwickler derartiger Software als auch an Regierungen und die Gesellschaft, sich gegen autonome Waffen auszusprechen.

Gäbe es niemanden, der die denkende Software für autonome Waffen entwickelt, würden diese nicht selbstständig töten können. Aber so einfach ist es wohl nicht. Denn die Krux ist das Prinzip des Dual-Use. Die Software, die Killer-Roboter ermöglicht, ist eben auch jene, die andere Innovationen beflügelt – sei es die Diagnose von Krankheiten, intelligente Verkehrsleitsysteme, witzige Videofilter in Social-Media-Apps oder eben selbstfahrenden Autos. Daher müssen letztlich wohl die Gesellschaft und die Politik eine klare Position gegen autonome Waffen beziehen, damit Szenen von Robotern auf Schlachtfeldern wie den Terminator-Filmen doch Fiktion bleiben. Noch ist es nicht zu spät.