Guterres fordert zum Auftakt des Genfer KI-Dialogs ein verbindliches Verbot von „Killerrobotern“

Seine Wortwahl war ungewöhnlich deutlich. Maschinen, die ohne menschliche Kontrolle und menschliches Urteilsvermögen Ziele auswählen und angreifen und ein Leben nehmen, seien moralisch verwerflich, politisch inakzeptabel und müssten durch das Völkerrecht verboten werden, sagte er.⁠9 Es war die Art von Sprache, die das Büro des UN-Chefs gewöhnlich Landminen oder Chemiewaffen vorbehält, und sie fiel in eine Woche, in der KI-Sicherheit in Washington bereits zu einem politischen Frontkampf geworden ist.

Guterres nutzte die Genfer Bühne, um zwei Dinge zugleich zu tun. Neben dem Appell zu autonomen Waffen stellte er ein neues KI-Kinderschutzversprechen vor und deutete die Debatte damit als eine um, die jeden Haushalt betrifft, nicht nur Verteidigungsministerien.⁠4 Und er stellte das Ganze vor den Hintergrund einer Uhr, die er selbst in Gang gesetzt hatte. Vor drei Jahren nannte seine Neue Agenda für den Frieden 2026 als Zieljahr für ein rechtlich verbindliches Instrument zu tödlichen autonomen Waffen. Diese Frist lief nach seinen Worten an dem Tag ab, an dem dieser Dialog eröffnet wurde.⁠6

Der Kontext ist wichtig. Die Gespräche im Rahmen des UN-Übereinkommens über bestimmte konventionelle Waffen – desselben Vertrags, der einst blendende Laserwaffen verbot – stecken seit 12 Jahren fest, aufgerieben von Konsensregeln, die jeder einzelne Staat als Waffe einsetzen kann, um Fortschritte zu bremsen.⁠6 Die Gruppe von Regierungsexperten hat ein Mandat auslaufen lassen; später im Jahr folgt eine Überprüfungskonferenz. In dieses Vakuum hinein warnte Guterres, dass KI mit unkontrollierter Geschwindigkeit voranschreite, dass an unseren eigenen Gesellschaften ein Experiment ohne Plan und ohne Zustimmung durchgeführt werde und dass dies nicht tragbar sei.⁠5⁠2

Was er nicht ausdrücklich sagte, war, wer die Blockierer sind. Das musste er auch nicht. Das diplomatische Bild ist jedem bekannt, der das zähe Ringen in der CCW verfolgt hat: eine Handvoll Militärmächte mit bestellten oder in Dienst befindlichen autonomen Waffen, die einsatzbereit oder nahezu einsatzbereit sind, und eine längere Liste von Staaten, die lieber weiterreden als mit Verhandlungen beginnen. Genf ist der Ort, an dem diese beiden Strömungen aufeinandertreffen.

Der Grund, warum diese Debatte nicht in Sitzungssälen bleiben kann, ist, dass die Technologie, die die Diplomaten regeln sollen, bereits eingesetzt wurde. Berichte von der Eröffnungssitzung hielten fest, dass Killerroboter keine Hypothese mehr sind, und stellten das Genfer Treffen als Reaktion auf eine Realität statt auf eine Prognose dar.⁠3 Mit anderen Worten: Der Geist, für den die UN Regeln entwerfen will, steckt nicht in einem Labor. Er steckt in einer Flotte.

Unterstrichen wurde dies in derselben Woche durch einen ungewöhnlich öffentlichen Streit zwischen dem US-Verteidigungsministerium und dem KI-Unternehmen Anthropic über die Bedingungen, unter denen Spitzenmodelle in Waffensystemen eingesetzt werden dürfen.⁠8⁠11 Oberflächlich betrachtet ist der Streit eine Beschaffungsfrage. Darunter liegt die Frage, die Guterres dem Saal stellte: Wer entscheidet, wann eine Maschine abdrücken darf, und wie sieht diese Entscheidung auf dem Papier aus, bevor sie im Code getroffen wird?

Die offizielle Position der UN ist inzwischen nicht mehr von der Kampagnensprache zivilgesellschaftlicher Bündnisse zu unterscheiden, die seit einem Jahrzehnt auf ein Verbot drängen. Diese Übereinstimmung ist Teil der Geschichte. Guterres unterstützte nicht bloß das Ziel eines Vertrags; er forderte, dass dieses Ziel rechtlich verbindlich gemacht wird, und er tat dies in dem Saal, an dem die nächste Runde der CCW-Gespräche gemessen werden wird.⁠2⁠4

Die Lücke ist verfahrensbedingt. Das Übereinkommen über bestimmte konventionelle Waffen arbeitet nach dem Konsensprinzip. Ein Verbot autonomer Waffen erfordert, dass jeder Staat am Tisch zustimmt oder zumindest auf eine Blockade verzichtet. Das ist nicht geschehen. Es ist nicht einmal annähernd geschehen. Und die Überprüfungskonferenz später in diesem Jahr wird stattfinden, ohne dass ein Mandat der Gruppe von Regierungsexperten noch in Kraft ist – ein Zeitfenster von Monaten statt Jahren, in dem förmliche Vertragsverhandlungen eingeleitet werden könnten.⁠6