日内瓦人工智能对话开幕，古特雷斯要求以具有约束力的禁令禁止“杀手机器人”

他的措辞异常直白。他说，在没有人类控制和判断的情况下选择并攻击目标、夺取生命的机器，在道德上令人憎恶，在政治上不可接受，必须通过国际法加以禁止。⁠9 这类措辞通常是联合国秘书长办公室留给地雷或化学武器的，而它出现的这一周，人工智能安全问题已在华盛顿内部演变为一场前沿政治斗争。

古特雷斯借日内瓦的平台同时做了两件事。他在发出自主武器呼吁的同时公布了新的人工智能儿童安全承诺，将这场辩论重新定义为关乎每个家庭、而不仅仅是国防部门的议题。⁠4 他还将舞台设定在一个由他本人启动的倒计时之下。三年前，他的《和平新议程》将2026年定为达成关于致命性自主武器的具有法律约束力文书的目标年份。用他的话说，这一期限在本次对话开幕当天到期。⁠6

背景很重要。联合国《特定常规武器公约》——正是这项条约曾禁止致盲激光武器——框架下的谈判已停滞12年，受困于任何单一国家都可借以拖延进程的协商一致规则。⁠6 政府专家组的一项授权已耗尽时限；审议大会将于今年晚些时候召开。在这一真空中，古特雷斯发出警告：人工智能正以失控的速度发展，一场实验正在我们自己的社会中进行，既无计划，也未经同意，这是不可持续的。⁠5⁠2

他没有明确说出的是，谁是抵制者。他也无需明说。任何关注过《特定常规武器公约》艰难进程的人都熟悉这一外交格局：少数军事大国已订购或列装了投入实战或接近实战的自主武器，还有更多国家宁愿继续讨论也不愿开始谈判。日内瓦正是这两股潮流交汇之地。

这场辩论之所以不能局限于会议室，是因为外交官们被要求加以管控的技术已经被使用过。有关开幕会议的报道指出，杀手机器人已不再是假设，并将日内瓦会议定性为对现实而非预测的回应。⁠3 换言之，联合国试图为之制定规则的“瓶中精灵”并不在实验室里，而是在部队中。

同一周，美国国防部与人工智能公司Anthropic之间就前沿模型可在何种条件下部署于武器系统爆发了一场异常公开的争执，进一步凸显了这一点。⁠8⁠11 表面上看，这是一场采购争议。其背后则是古特雷斯向会场提出的问题：由谁决定何时允许机器扣动扳机，以及这一决定在写入代码之前，在纸面上是什么样子。

联合国的官方立场如今已与民间社会联盟的倡导话语毫无二致，这些联盟十年来一直在推动禁令。这种一致本身就是新闻的一部分。古特雷斯不仅支持缔结条约的目标，还要求使这一目标具有法律约束力，而且他是在将衡量下一轮《特定常规武器公约》谈判成效的会场中提出这一要求的。⁠2⁠4

差距在于程序。《特定常规武器公约》以协商一致方式运作。禁止自主武器需要与会的每个国家都同意，或至少不加阻挠。这一点尚未实现，甚至远未接近实现。而今年晚些时候举行的审议大会召开时，政府专家组的授权将已不再有效，可以启动正式条约谈判的窗口期只有数月而非数年。⁠6