判事、違法な報復として国防総省によるAnthropicのブラックリスト指定を阻止

争いの核心にあるのは、Anthropicが譲らなかった二つの一線だ。同社がClaudeチャットボットを国内監視や自律型兵器に使うことを認めなかった後、国防総省はAnthropicをサプライチェーンおよび国家安全保障上のリスクと位置づけた。⁠2 最高経営責任者のダリオ・アモデイは、AIモデルは自律型兵器を操縦するには信頼性が十分ではなく、国内監視は権利を侵害すると述べている。⁠2 同社の説明では、裁判所も実質的にこれを採用し、ピート・ヘグセス国防長官はこの指定によって権限を逸脱した。⁠3 国防総省の説明では、同社は防衛サプライチェーンに組み込むには信頼できない存在だった。裁判所は前者の見方を選び、しかも率直な言葉でそう判断した。

リン判事は、この指定を「違法で、根拠がない」と述べた。⁠3⁠5⁠9 また、「合衆国憲法修正第1条に違反する違法な報復」だったと認定した。⁠6⁠7 この二つの表現に、判決の重みがすべて込められている。前者は、政府に事実上の根拠がなかったことを示す。後者は、政府に違憲の動機があったことを示す。両者を合わせると、国防総省の証拠と意図のどちらも退けることになる。国家安全保障が持ち出された際に、裁判所がこれほど直接的に述べることはまれだ。判決は指示を取り消し、Anthropicの技術を政府のサプライチェーンにとって当然に危険なものとして扱う正式な法的根拠を取り除いた。⁠5⁠10⁠9

この意見書が痛烈なのは、安全保障上の主張がどのように構築されたかについての説明だ。リン判事は、政府がAnthropicの発言を理由に同社へ違法に報復し、安全保障上の根拠はClaudeが実際には持っていなかった能力に一部基づいていたと認定した。⁠10⁠11 裁判所によれば、その根拠は、ヘグセス国防長官がすでに同社を脅威と判断した後に組み立てられた。⁠10⁠11 率直に読めば、この順序は、ブラックリストについて一般に受け入れるよう求められる論理を逆転させている。まず脅威が見つかり、その後に国が行動するという論理だ。ここでは、判断が先にあり、正当化の根拠は後から集められたと、裁判所は述べている。

Anthropicが異議を唱えたのは、軍との協力そのものではなかった。問題としたのは、米国人を対象とした大規模な国内監視システムの構築と、完全自律型の致死兵器の実現という、二つの具体的な用途だった。⁠2 これらはAI安全性をめぐる議論の周縁的な懸念ではない。アモデイは、モデルに致死的な自律性を与えるには信頼性が十分でないこと、監視への利用は基本的な保護に反することを指摘し、信頼性と権利の両面から問題を提起している。⁠2 国防総省は、条件付きの協力を不忠誠とリスクとして扱った。裁判所はそれを、保護される表現と、それに続く報復として捉えた。⁠6⁠7

この違いは、一つのチャットボットを超えて重要だ。サプライチェーン上のリスク指定は、ベンダーが機密システム内で自社製品を妨害、劣化させたり、ひそかに悪用したりする、具体的に説明できる危険があることを示すものとされている。これは予防的、技術的、将来を見据えた措置だ。報復は過去を振り返るものだ。「私たちを批判した。だから見せしめにする」ということだ。リン判事は、政府の行為は前者ではなく後者に当たると認定した。妨害リスクを示す証拠は乏しく、ほとんど存在しなかった。その一因は、Claudeが持っていない権限に言及していたことにある。一方、Anthropicの公的な立場への不快感を示す証拠は豊富だった。⁠10⁠11

手続き上の位置づけは、この非難をより鋭いものにしている。これは、当事者が争う間、現状を維持するための限定的な一時停止ではなかった。指定が違法であり、それを実施する指示は維持できないという、本案についての判決だった。⁠5⁠10⁠9 カリフォルニア州の連邦判事が、軍事判断に関する行政府の主張に従うのではなく、国防総省の指示を全面的に取り消したことは、裁判所の目には記録上の根拠がいかに不十分だったかを示している。⁠7 リン判事の論理が示唆するように、司法が行政に敬譲するにも、敬譲の対象となる何かが必要だ。事実、分析、同時期に行われた脅威評価である。判事の言葉を借りれば、空疎な主張では不十分だ。⁠8

この記録からは明らかにならないことも多く、誠実であるためにはその点を述べる必要がある。確認できる報道によれば、8月27日の判決、その根拠となった合衆国憲法修正第1条、指示の取り消し、そして安全保障上の主張が、存在しない能力を事後的に組み立てた説明に依拠していたとの判断が確認されている。⁠2⁠5⁠10⁠11 しかし、ここで参照できる抜粋では、判決に先立ったとされる命令、書簡、審理、差し止め命令のより詳細な時系列は確立されていない。また、別の調達関連法に基づく別個の指定、さらなる上訴手続き、あるいは将来の株式公開をめぐる銀行関係者の協議についての主張も確認されていない。こうした点は今後の展開に大きく影響する可能性があるが、この記録だけで確定事項として扱うことはできない。読者は、この勝訴を本件の指定に関するこの裁判所での決定的な判断と捉えるべきであり、関連する法的または商業的な問題がすべて解決した証拠とみなすべきではない。