Juíza barra lista negra do Pentágono contra Anthropic por retaliação ilegal

A disputa gira em torno de duas linhas que a Anthropic se recusou a cruzar. O Pentágono classificou a Anthropic como um risco à cadeia de suprimentos e à segurança nacional depois que a empresa se recusou a permitir que seu chatbot Claude fosse usado para vigilância doméstica ou armas autônomas.⁠2 O diretor-executivo Dario Amodei afirmou que os modelos de IA não são confiáveis o suficiente para pilotar armas autônomas e que a vigilância doméstica viola direitos.⁠2 Na versão da empresa, acolhida em essência pelo tribunal, o secretário de Defesa Pete Hegseth excedeu sua autoridade ao fazer a classificação.⁠3 Na versão do Pentágono, não era possível confiar na empresa dentro da cadeia de suprimentos de defesa. O tribunal escolheu a primeira interpretação, e o fez em termos contundentes.

Lin chamou a classificação de "ilegal e infundada".⁠3⁠5⁠9 Ela concluiu que foi uma "retaliação ilegal, em violação à Primeira Emenda".⁠6⁠7 Essas duas frases carregam todo o peso da decisão. A primeira afirma que o governo não tinha uma base factual. A segunda diz que agiu com uma motivação inconstitucional. Juntas, elas rejeitam tanto as provas quanto a intenção do Pentágono, uma combinação que os tribunais raramente expressam de forma tão direta quando se invoca a segurança nacional. A decisão anulou as diretrizes, removendo a base jurídica formal para tratar a tecnologia da Anthropic como presumivelmente perigosa para a cadeia de suprimentos do governo.⁠5⁠10⁠9

O que torna a decisão contundente é seu relato de como a justificativa de segurança foi construída. Lin concluiu que o governo retaliou ilegalmente contra a Anthropic por se manifestar e que a justificativa de segurança nacional se baseou, em parte, em capacidades que o Claude não tinha de fato.⁠10⁠11 Segundo o tribunal, essa justificativa foi elaborada depois que Hegseth já havia decidido que a empresa era uma ameaça.⁠10⁠11 Em termos claros, essa sequência inverte a lógica que normalmente se espera que o público aceite em relação às listas negras: primeiro a ameaça é descoberta, depois o Estado age. Neste caso, diz o tribunal, a decisão veio primeiro e a justificativa foi reunida depois.

A objeção da Anthropic nunca foi a trabalhar com os militares em si. Era contra dois usos específicos: desenvolver sistemas para vigilância doméstica em massa de americanos e viabilizar armas letais totalmente autônomas.⁠2 Essas não são preocupações marginais nos debates sobre segurança de IA, e Amodei as apresentou como questões tanto de confiabilidade quanto de direitos, argumentando que os modelos não são confiáveis o bastante para receber autonomia letal e que usos de vigilância violam proteções básicas.⁠2 O Pentágono tratou essa cooperação condicionada como deslealdade e risco. O tribunal a considerou uma manifestação protegida seguida de retaliação.⁠6⁠7

Essa distinção importa para além de um chatbot. A classificação de risco à cadeia de suprimentos deve indicar um perigo concreto e explicável de que um fornecedor sabote, degrade ou explore secretamente seu próprio produto dentro de sistemas sensíveis. Ela é preventiva, técnica e voltada para o futuro. A retaliação olha para trás: você nos criticou, então faremos de você um exemplo. Lin concluiu que as ações do governo pertenciam à segunda categoria, não à primeira. As provas de risco de sabotagem eram escassas ou inexistentes, em parte porque a justificativa invocava poderes que o Claude não possuía, enquanto havia provas abundantes do descontentamento com a posição pública da Anthropic.⁠10⁠11

O contexto processual torna a repreensão ainda mais contundente. Não se tratou de uma suspensão limitada para preservar a situação existente enquanto as partes travavam a disputa. Foi uma decisão de mérito, segundo a qual a classificação era ilegal e as diretrizes que a implementavam não podiam vigorar.⁠5⁠10⁠9 O fato de uma juíza federal da Califórnia anular diretamente as diretrizes do Pentágono, em vez de deferir às alegações do Executivo sobre o julgamento militar, indica o quanto, aos olhos do tribunal, o registro ficou aquém do necessário.⁠7 O raciocínio de Lin sugere que a deferência ainda exige algo a que deferir: fatos, análise, uma avaliação contemporânea da ameaça. Em suas palavras, uma invocação vazia não basta.⁠8

Há muito que este registro não esclarece, e a honestidade exige que isso seja dito. As reportagens disponíveis confirmam a decisão de 27 de agosto, sua fundamentação na Primeira Emenda, a anulação das diretrizes e a conclusão de que a justificativa de segurança se apoiou em capacidades inexistentes, reunidas depois do fato.⁠2⁠5⁠10⁠11 Nos trechos disponíveis aqui, elas não estabelecem uma cronologia mais completa de ordens, cartas, audiências ou liminares que supostamente antecederam a decisão, nem confirmam alegações sobre uma classificação separada com base em outra lei de aquisições, novos procedimentos de apelação ou conversas com banqueiros sobre uma futura oferta pública. Essas questões podem ser de enorme importância para o que acontecerá a seguir, mas não podem ser tratadas como comprovadas com base neste material. O leitor deve considerar a vitória decisiva quanto à classificação perante este tribunal, não como prova de que todas as questões jurídicas ou comerciais relacionadas estão resolvidas.