Bei den internationalen Beratungen über Sicherheitsschranken für vollautonom handelnde Killerroboter ist nur ein Minimalkonsens herausgekommen. Diplomaten konnten sich auf der Konferenz der 128 Vertragsstaaten der UN-Waffenkonvention (CCW) in Genf nicht darauf einigen, einen konkreten Auftrag für Verhandlungen über ein rechtsverbindliches Verbot besonders gefährlicher Waffensysteme zu erteilen. Die Konferenz endete nach stundenlangen nächtlichen Verhandlungen in den frühen Morgenstunden.
Fast 100 Länder hatten sich zuvor für Verhandlungen über ein rechtsverbindliches Verbot vollautonomer, KI-gesteuerter Waffen ausgesprochen. Diese Systeme können töten, ohne dass ein Mensch den finalen Schießbefehl gibt. Einem konkreten Verhandlungsauftrag standen jedoch unter anderem die USA entgegen, die als größte Militärmacht und als Vorreiter bei der Entwicklung Künstlicher Intelligenz eine maßgebliche Rolle spielen.
Gemeint sind Waffensysteme, die nicht nur selbstständig Ziele auswählen und verfolgen, sondern auch eigenständig einen tödlichen Angriff auslösen können. Solche tödlichen autonomen Waffensysteme, auf Englisch Lethal Autonomous Weapon Systems und abgekürzt LAWS, werden umgangssprachlich Killerroboter genannt. Regierungsexperten sollen nun bis 2028 weitere Elemente für eine Einigung erörtern und vorschlagen, ob daraus später ein rechtsverbindlicher Vertrag werden soll oder nicht.
Die Nichtregierungsorganisation Stop Killer Robots sprach von einem enttäuschenden Ergebnis auf dem kleinsten gemeinsamen Nenner. Thomas Küchenmeister von der Organisation Facing Finance, der die Kampagne in Deutschland vertritt, kritisierte das Mandat als wachsweich. Es enthalte keinerlei Ambitionen, autonome Waffen zeitnah und verbindlich zu verbieten und umfassend zu regulieren. Damit gehe der Rüstungswettlauf um Waffen, die zunehmend von Künstlicher Intelligenz gesteuert werden, ungebremst weiter.
Küchenmeister warnte besonders vor dem Zeitdruck im Einsatz. Wenn Soldaten nur noch Sekunden hätten, um zu prüfen, ob ein von Künstlicher Intelligenz vorgeschlagenes Vorgehen das humanitäre Völkerrecht achte, sei menschliche Kontrolle kaum mehr gegeben.
Der Widerstand gegen einen verbindlichen Vertrag kam auch aus anderen Staaten. Russische Regierungsvertreter hatten schon zu Beginn der Konferenz sämtliche formellen Gespräche blockiert, indem sie die Annahme der Tagesordnung verweigerten. Zudem forderten sie, das Rederecht der EU und anderer Beobachter stark einzuschränken, was keine Aussicht auf Annahme hatte. Da die Konferenz stets im Konsens entscheidet, kam der russische Widerstand einem Veto gleich.
Auch Israel, Belarus und Großbritannien äußerten neben den USA Vorbehalte gegen die Festlegung auf einen rechtsverbindlichen Vertrag. Der brasilianische Botschafter Frederico Meyer kritisierte am Rande der Konferenz, Russland werde immer als Bösewicht hingestellt, doch manche Staaten verbärgen sich hinter Russland.
Die Bundesregierung hatte sich im Vorfeld hingegen für einen rechtsverbindlichen Vertrag ausgesprochen. Dieser sollte vollautonome Systeme verbieten, die vollständig der menschlichen Kontrolle entzogen sind, und für andere Systeme mit autonomen Funktionen Auflagen festlegen. Während der Konferenz machte die deutsche Delegation allerdings deutlich, dass sie auch weniger akzeptieren würde, um einem Konsens nicht im Wege zu stehen.