グテーレス氏、3つのルールからなる「AI子ども安全誓約」を発表　誰が署名するかは未知数

アントニオ・グテーレス氏は、ジュネーブで開かれた初の国連「AIガバナンスに関するグローバル対話」の冒頭で、警告と要請を発した。警告とは、人工知能（AI）がそれに見合うルールのないまま「暴走する速さで」進んでいるというものだ。要請とは、すべてのAI企業が、未成年者に自社のシステムを使わせる前に、3つの約束を柱とする「AI子ども安全誓約」に署名すべきだというものだ²⁴⁹。

この誓約は条約ではない。政治的な基準、つまり事務総長職の道義的な重みのもとで公に引かれた一線であり、各国政府や企業はこれに照らして自らを弁明することが求められることになる⁵。この区別は重要だ。誓約は拒否することも、無視することも、ひっそりと棚上げすることもできる。条約ではそうはいかない。グテーレス氏が賭けているのは、基準を声高に示すことで、「知らなかった」がもはや通用する答えではなくなることだ。

演説に関する報道は同じ3つの約束で一致しているが、今回の情報源のなかにそれを番号付きの一覧としてそのまま再現したものはない。第1に、企業は子どもが使えるようにする前に、自社のAIシステムが安全であることを証明しなければならない³⁸。第2に、システムは「子どもを操作したり性的対象化したりしてはならず、危機の際に合成的な会話を長引かせてもならない」³¹¹。第3に、子どもが苦境にあるときは、機械は対応を止め、やり取りを実際の人間に引き継がなければならない³⁵⁸。Model Diplomatは「子どもの安全に関する3つのルールからなる誓約」という位置づけを確認している⁵。

ルールの根底には、より鋭い問題提起がある。グテーレス氏は、子どもは規制されていない技術の「モルモット」ではないと述べた³¹¹。この言葉選びは意図的だ。未成年者へのAIの現在の展開を同意なしに行われている実験と捉え、それを行っている者こそが今や自らを正当化しなければならないとするものだ。

動画のナレーションは、発表がジュネーブでの対話の7月7日に行われたとしている。報道記録はこれと食い違う。国連のプレスリリースと大半の独立系報道は、誓約が発表された開会演説を2026年7月6日としている²⁴⁵⁸⁹。7月7日はサミットの2日目で、焦点は別のところ、すなわち説明責任と、AIシステムが被害を引き起こした場合に誰が法的責任を負うのかという問題にあった⁶。誓約は初日のものだ。

子ども安全誓約は目玉だったが、グテーレス氏が求めたのはそれだけではない。同氏は、以前「キラーロボット」と表現した自律型兵器の禁止を改めて呼びかけ、より広いAIの現状を、社会を対象に「計画もなく、同意もなく」行われている制御されない実験と位置づけた⁴。同じ演説を報じたロイター通信は、事務総長がAIを「経済を作り変え、労働の世界を一変させ、選挙を揺るがし、均衡を傾け…」得る技術だと述べたと引用している。提供された抜粋では、この一文は途中で切れている⁹。この未完の文の要点は、演説の要点でもある。「傾け」の後に続くどの節も警告になり得るのだ。

対話自体には国連加盟193カ国すべてが参加しており¹¹、それが拘束力のない誓約でもなお意味のある手段である理由の一つだ。基準が任意のものであっても、その基準が定められる場に193の政府が同席することになる。

この動画が訴える緊急性は、一連の統計に基づいている。NCMECへのCSAM報告件数が2023年に4,700件、2024年に67,000件、2025年上半期に440,000件だったこと、インターネット・ウォッチ財団（IWF）によるAI生成の虐待動画が前年比260倍に増えたとの数字、AI生成の虐待コンテンツの65パーセントが最も深刻なカテゴリーに分類されていること、被害者の97パーセントが少女であること、10代の17人に1人がディープフェイクのヌード画像の被害に遭っていること、世界で毎年約3億人の子どもが影響を受けていること、国連の14機関と60を超える市民社会団体が連名で署名した1月の共同声明、そして「子どもの権利委員会委員長ソフィー・キラゼ氏」とされる発言である。これらの数字や名前はいずれも、本記事のために集めた情報源には見当たらない^234567891011。だからといって、それらが誤りだというわけではない。本記事ではそれらを独自に検証済みであるかのように繰り返すことはできない、ということだ。誓約そのものは演説とそれをめぐる報道に裏付けられているが、周辺の数字は別の根拠に属するもので、ここでは確認されていない。