Richterin stoppt rechtswidrige Vergeltung durch schwarze Liste des Pentagons gegen Anthropic

Im Streit geht es um zwei Grenzen, die Anthropic nicht überschreiten wollte. Das Pentagon stufte Anthropic als Lieferketten- und nationales Sicherheitsrisiko ein, nachdem das Unternehmen sich geweigert hatte, seinen Chatbot Claude für die Überwachung im Inland oder autonome Waffen einsetzen zu lassen.⁠2 Vorstandschef Dario Amodei sagte, KI-Modelle seien nicht zuverlässig genug, um autonome Waffen zu steuern, und Überwachung im Inland verletze Rechte.⁠2 In der Darstellung des Unternehmens, die das Gericht im Wesentlichen übernahm, überschritt Verteidigungsminister Pete Hegseth mit der Einstufung seine Befugnisse.⁠3 Nach Darstellung des Pentagons konnte man dem Unternehmen innerhalb der Verteidigungs-Lieferkette nicht vertrauen. Das Gericht entschied sich für die erste Lesart – und formulierte dies unmissverständlich.

Lin bezeichnete die Einstufung als „rechtswidrig und unbegründet“.⁠3⁠5⁠9 Sie stellte fest, es habe sich um „rechtswidrige Vergeltung unter Verletzung des Ersten Verfassungszusatzes“ gehandelt.⁠6⁠7 Diese beiden Formulierungen tragen das gesamte Gewicht der Entscheidung. Die erste besagt, dass der Regierung eine faktische Grundlage fehlte. Die zweite besagt, dass sie aus einem verfassungswidrigen Motiv handelte. Zusammengenommen verwerfen sie sowohl die Belege des Pentagons als auch dessen Absicht – eine Kombination, die Gerichte nur selten so direkt benennen, wenn die nationale Sicherheit ins Feld geführt wird. Mit dem Urteil wurden die Anweisungen aufgehoben; damit entfiel die formelle Rechtsgrundlage dafür, Anthropics Technologie als grundsätzlich gefährlich für die staatliche Lieferkette zu behandeln.⁠5⁠10⁠9

Besonders schmerzhaft ist für die Regierung die Darstellung des Gerichts, wie die Sicherheitsbegründung zustande kam. Lin stellte fest, dass die Regierung rechtswidrig Vergeltung an Anthropic übte, weil das Unternehmen sich öffentlich geäußert hatte, und dass die Begründung der nationalen Sicherheit teilweise auf Fähigkeiten beruhte, über die Claude tatsächlich nicht verfügte.⁠10⁠11 Nach Auffassung des Gerichts wurde diese Begründung erst zusammengestellt, nachdem Hegseth bereits entschieden hatte, dass das Unternehmen eine Bedrohung darstelle.⁠10⁠11 Klar gelesen kehrt diese Abfolge die Logik um, die der Öffentlichkeit bei schwarzen Listen gewöhnlich nahegelegt wird: Zuerst wird die Bedrohung entdeckt, dann handelt der Staat. Hier, so das Gericht, fiel zuerst die Entscheidung; die Rechtfertigung wurde erst danach zusammengetragen.

Anthropics Einwand richtete sich nie gegen eine Zusammenarbeit mit dem Militär an sich. Er galt zwei konkreten Verwendungszwecken: dem Aufbau von Systemen zur massenhaften Überwachung von Amerikanern im Inland und der Ermöglichung vollständig autonomer tödlicher Waffen.⁠2 Das sind keine Randthemen in den Debatten über KI-Sicherheit. Amodei stellte sie als Fragen der Zuverlässigkeit ebenso wie der Rechte dar: Die Modelle seien nicht verlässlich genug, um ihnen tödliche Autonomie zu übertragen, und der Einsatz zur Überwachung verletze grundlegende Schutzrechte.⁠2 Das Pentagon behandelte diese an Bedingungen geknüpfte Zusammenarbeit als Illoyalität und Risiko. Das Gericht sah darin eine geschützte Meinungsäußerung, auf die Vergeltung folgte.⁠6⁠7

Diese Unterscheidung ist über den Fall eines einzelnen Chatbots hinaus bedeutsam. Eine Einstufung als Lieferkettenrisiko soll auf eine konkret benennbare Gefahr hinweisen, dass ein Anbieter sein eigenes Produkt in sensiblen Systemen sabotieren, beeinträchtigen oder heimlich ausnutzen wird. Sie ist vorbeugend, technisch und auf die Zukunft gerichtet. Vergeltung blickt zurück: Ihr habt uns kritisiert, also machen wir ein Exempel an euch. Lin stellte fest, dass das Vorgehen der Regierung in die zweite und nicht in die erste Kategorie fiel. Die Belege für ein Sabotagerisiko waren dürftig bis nicht vorhanden, zum Teil weil auf Befugnisse verwiesen wurde, über die Claude nicht verfügte. Dagegen gab es reichlich Hinweise auf den Unmut über Anthropics öffentliche Haltung.⁠10⁠11

Der Verfahrensstand verschärft die Rüge. Es handelte sich nicht um eine vorläufige Aussetzung zur Wahrung des Status quo, während die Parteien den Streit ausfochten. Vielmehr erging ein Sachurteil: Die Einstufung war rechtswidrig, und die zu ihrer Umsetzung erlassenen Anweisungen konnten keinen Bestand haben.⁠5⁠10⁠9 Dass eine Bundesrichterin in Kalifornien die Anweisungen des Pentagons unmittelbar aufhob, statt den Behauptungen der Exekutive über militärische Beurteilungen den Vorzug zu geben, zeigt, wie weit die Aktenlage nach Ansicht des Gerichts hinter den Anforderungen zurückblieb.⁠7 Lins Begründung legt nahe, dass Zurückhaltung gegenüber der Exekutive etwas voraussetzt, worauf man sich zurückhaltend beziehen kann: Fakten, Analysen, eine zeitnahe Bedrohungsbewertung. Eine bloße Berufung darauf, wie Lin es formulierte, reicht nicht aus.⁠8

Vieles lässt sich anhand dieser Aktenlage nicht klären, und der Ehrlichkeit halber muss das gesagt werden. Die verfügbaren Berichte bestätigen das Urteil vom 27. August, seine Grundlage im Ersten Verfassungszusatz, die Aufhebung der Anweisungen und die Feststellung, dass sich die Sicherheitsbegründung auf nicht vorhandene Fähigkeiten stützte, die nachträglich zusammengestellt worden waren.⁠2⁠5⁠10⁠11 Aus den hier verfügbaren Auszügen ergibt sich jedoch keine umfassendere Chronologie von Anordnungen, Schreiben, Anhörungen oder einstweiligen Verfügungen, die der Entscheidung vorausgegangen sein sollen. Ebenso wenig bestätigen sie Behauptungen über eine separate Einstufung nach einem anderen Beschaffungsgesetz, weitere Berufungsverfahren oder Gespräche mit Bankern über einen möglichen Börsengang. Diese Punkte könnten für die weitere Entwicklung von enormer Bedeutung sein, lassen sich auf Grundlage dieser Aktenlage aber nicht als erwiesen behandeln. Leserinnen und Leser sollten den Sieg als entscheidend hinsichtlich der vor diesem Gericht angefochtenen Einstufung betrachten, nicht als Beleg dafür, dass alle damit verbundenen rechtlichen oder geschäftlichen Fragen geklärt sind.