グテーレス氏、ジュネーブのAI対話開幕で「殺人ロボット」の拘束力ある禁止を要求

その表現は異例なほど率直だった。人間の制御と判断なしに標的を選択・攻撃し、命を奪う機械は、道義的に容認しがたく、政治的に受け入れられず、国際法によって禁止されなければならないと述べたのである。⁠9 これは国連事務総長室が通常、対人地雷や化学兵器に対して用いるような言葉であり、すでにAIの安全性がワシントンで政治闘争の最前線となっていた週に発せられた。

グテーレス氏はジュネーブの場を使い、二つのことを同時に行った。自律型兵器に関する訴えとあわせて新たな「AI子ども安全誓約」を発表し、この議論を国防省だけでなくすべての家庭に関わるものとして捉え直した。⁠4 さらに、自ら動かし始めた時計を背景に議論の舞台を整えた。3年前、同氏の「平和への新たなアジェンダ」は、致死性自律型兵器に関する法的拘束力のある文書の目標年を2026年と定めた。その期限は、同氏の言葉によれば、この対話が始まった日に過ぎたのである。⁠6

背景は重要だ。かつて失明をもたらすレーザー兵器を禁止したのと同じ条約である国連の特定通常兵器使用禁止制限条約の下での協議は、12年間停滞しており、どの一国でも進展を遅らせる武器として利用できるコンセンサス規則に阻まれてきた。⁠6 政府専門家会合は一つの任務の期限を使い切り、年内には再検討会議が続く。この空白の中で、グテーレス氏はAIが暴走するような速度で進歩しており、計画も同意もないまま私たち自身の社会で実験が行われている、これは持続可能ではないと警告した。⁠5⁠2

同氏が明言しなかったのは、抵抗している国がどこかということだった。言う必要もなかった。CCWの停滞を見てきた者なら誰でも外交上の構図はよく知っている。実戦配備済み、あるいはそれに近い自律型兵器を発注済みまたは運用中の一握りの軍事大国と、交渉を始めるよりも話し合いを続けたいより多くの国々だ。ジュネーブはこの二つの潮流が交わる場所である。

この議論が会議室の中にとどまっていられないのは、外交官たちが規制を求められている技術がすでに使用されているからだ。開会セッションの報道は、殺人ロボットはもはや仮説ではないと指摘し、ジュネーブの会合を予測ではなく現実への対応として位置づけた。⁠3 言い換えれば、国連がルールを起草しようとしている魔人は研究室の中にいるのではない。部隊の中にいるのだ。

その点は同じ週、米国防総省とAI企業Anthropicとの間で、最先端モデルを兵器システムに配備できる条件をめぐって異例なほど公然と繰り広げられた対立によっても浮き彫りになった。⁠8⁠11 この争いは表面上は調達をめぐる議論だ。しかしその根底には、グテーレス氏が議場に投げかけた問いがある。機械が引き金を引くことを許されるのはいつかを誰が決めるのか、そしてその決定はコードに落とし込まれる前に、文書上でどのような形をとるのか。

国連の公式な立場は今や、10年にわたり禁止を訴えてきた市民社会連合のキャンペーンの言葉と見分けがつかない。この一致も今回の話の一部だ。グテーレス氏は条約という目標を支持しただけではない。その目標に法的拘束力を持たせるよう求めたのであり、しかもそれを、次回のCCW協議の成否が測られる議場で行ったのである。⁠2⁠4

この隔たりは手続き上のものだ。特定通常兵器使用禁止制限条約（CCW）はコンセンサス方式で運営されている。自律型兵器の禁止には、参加するすべての国が同意するか、少なくとも阻止を控える必要がある。それは実現していない。実現に近づいたことすらない。そして今年後半の再検討会議は、政府専門家会合の任務がもはや有効でない状態で迎えることになる。正式な条約交渉を開始できる期間は、年単位ではなく月単位しかない。⁠6