古特雷斯公布三条规则的人工智能儿童安全承诺——谁会签署仍是未知数

安东尼奥·古特雷斯在日内瓦开幕首届联合国人工智能治理全球对话时，既发出了警告，也提出了请求。警告是：人工智能正以“失控的速度”发展，却没有与之相匹配的规则。请求是：每家人工智能公司都应签署一份围绕三项承诺制定的“人工智能儿童安全承诺”，然后才能允许任何未成年人接触其系统²⁴⁹。

这份承诺不是条约。它是一项政治基准——在秘书长职位的道义分量下公开划出的一条线，各国政府和企业将被期待就此为自己辩护⁵。这一区别很重要。承诺可以被拒绝、被无视，或被悄悄搁置。条约则不能。古特雷斯押注的是，把标准喊得足够响亮，让“我们并不知情”不再是一个可以接受的回答。

有关这次演讲的报道都指向同样的三项承诺，尽管本组资料中没有任何一份逐字将其以编号列表形式呈现。第一，企业必须在儿童使用其人工智能系统之前证明这些系统是安全的³⁸。第二，这些系统不得“操纵儿童或将儿童性化，也不应在危机期间延长合成对话”³¹¹。第三，当儿童处于困境时，机器必须停下来，将互动交给真人³⁵⁸。Model Diplomat证实了“关于儿童安全的三条规则承诺”这一说法⁵。

在这些规则之下，还有一个更尖锐的定性。古特雷斯说，儿童不是不受监管技术的“小白鼠”³¹¹。这一措辞是有意为之。它将当前向未成年人部署人工智能的做法视为一场未经同意而进行的实验，并认为主导这场实验的人现在理应为自己作出辩护。

视频旁白称，这一宣布是在7月7日的日内瓦对话上作出的。报道资料的说法则不同。联合国新闻稿和多数独立报道都将公布该承诺的开幕演讲日期定为2026年7月6日²⁴⁵⁸⁹。7月7日是峰会第二天，焦点在别处——问责，以及人工智能系统造成危害时由谁承担法律责任的问题⁶。这份承诺属于第一天。

儿童安全承诺是头条，但并不是古特雷斯提出的唯一要求。他再次呼吁禁止他此前称为“杀手机器人”的自主武器，并将更广泛的人工智能时刻描述为一场“没有计划、未经同意”而在各个社会身上进行的失控实验⁴。路透社报道同一演讲时，引用秘书长的话称人工智能是一种“可以重塑经济、改变工作世界、左右选举并使……的平衡倾斜”的技术——所提供的摘录中这句话被截断了⁹。这句未完之语的要义正是整篇演讲的要义：“倾斜”之后的每一个分句都可能是一句警告。

此次对话本身召集了联合国全部193个会员国¹¹，这也是一份不具约束力的承诺仍不失为有意义工具的部分原因。即便标准是自愿性的，它也让193国政府身处制定标准的现场。

该视频的紧迫感建立在一系列统计数据之上：美国国家失踪与受剥削儿童中心（NCMEC）收到的儿童性虐待材料（CSAM）报告在2023年为4,700份，2024年为67,000份，2025年上半年为440,000份；互联网观察基金会（Internet Watch Foundation）称人工智能生成的虐待视频同比增长260倍；65%的人工智能生成虐待材料被归入最严重类别；97%的受害者为女孩；每十七名青少年中就有一人遭受深度伪造裸照之害；全球每年约有3亿儿童受到影响；1月份一份由14个联合国实体和60多个民间社会团体联署的联合声明；以及一句归于“儿童权利委员会主席索菲·基拉泽（Sophie Kiladze）”的引述。这些数字和名字均未出现在为本文汇集的资料中^234567891011。这并不意味着它们有误，而是意味着本文不能把它们当作经过独立核实的信息加以转述。这份承诺的依据是那篇演讲及相关报道；周边的数字属于另一套证据基础，本文未对其进行核查。