Guterres exige proibição vinculante de 'robôs assassinos' na abertura do diálogo sobre IA em Genebra

Sua abordagem foi incomumente direta. Máquinas que selecionam e atacam alvos e tiram uma vida sem controle e julgamento humanos, disse ele, são moralmente repugnantes, politicamente inaceitáveis e devem ser proibidas pelo direito internacional.⁠9 Foi o tipo de linguagem que o gabinete do chefe da ONU costuma reservar para minas terrestres ou armas químicas, e chegou em uma semana que já transformou a segurança da IA em uma disputa política de linha de frente em Washington.

Guterres usou a plataforma de Genebra para fazer duas coisas ao mesmo tempo. Ele apresentou um novo Compromisso de Segurança Infantil em IA junto com o apelo sobre armas autônomas, reformulando o debate como algo que afeta todos os lares, e não apenas os ministérios da Defesa.⁠4 E montou o cenário diante de um relógio que ele próprio havia acionado. Há três anos, sua Nova Agenda para a Paz definiu 2026 como o ano-meta para um instrumento juridicamente vinculante sobre armas autônomas letais. Esse prazo expirou, em suas palavras, no dia em que este diálogo foi aberto.⁠6

O contexto importa. As negociações no âmbito da Convenção da ONU sobre Certas Armas Convencionais, o mesmo tratado que um dia proibiu os lasers cegantes, estão paralisadas há 12 anos, consumidas por regras de consenso que qualquer Estado pode usar como arma para retardar o avanço.⁠6 O Grupo de Especialistas Governamentais esgotou o prazo de um mandato; uma conferência de revisão virá ainda este ano. Nesse vácuo, Guterres lançou o alerta de que a IA avança em velocidade descontrolada, de que um experimento está sendo conduzido em nossas próprias sociedades sem plano e sem consentimento, e de que isso não é sustentável.⁠5⁠2

O que ele não disse, com todas as letras, foi quem são os resistentes. Nem precisava. O quadro diplomático é bem conhecido por quem acompanha o lento andamento da CCW: um punhado de potências militares com armas autônomas operacionais ou quase operacionais encomendadas ou em serviço, e uma lista mais longa de Estados que preferem continuar conversando a começar a negociar. Genebra é onde essas duas correntes se encontram.

O motivo pelo qual este debate não pode ficar restrito às salas de comissões é que a tecnologia que os diplomatas estão sendo chamados a regular já foi usada. A cobertura da sessão de abertura observou que os robôs assassinos não são mais uma hipótese, apresentando o encontro de Genebra como uma resposta a uma realidade, e não a uma previsão.⁠3 Em outras palavras, o gênio para o qual a ONU tenta redigir regras não está em um laboratório. Está em uma frota.

Esse ponto foi reforçado na mesma semana por uma disputa incomumente pública entre o Departamento de Defesa dos Estados Unidos e a empresa de IA Anthropic sobre os termos em que modelos de fronteira podem ser empregados em sistemas de armas.⁠8⁠11 A disputa é, na superfície, uma discussão sobre contratações. Por baixo dela está a pergunta que Guterres fez ao plenário: quem decide quando uma máquina pode puxar um gatilho, e como essa decisão se apresenta no papel antes de ser tomada em código.

A posição oficial da ONU agora é indistinguível da linguagem de campanha das coalizões da sociedade civil que passaram uma década pressionando por uma proibição. Esse alinhamento é parte da história. Guterres não apenas endossou o objetivo de um tratado; ele exigiu que esse objetivo se tornasse juridicamente vinculante, e o fez no plenário onde a próxima rodada de negociações da CCW será avaliada.⁠2⁠4

A lacuna é processual. A Convenção sobre Certas Armas Convencionais funciona por consenso. Uma proibição de armas autônomas exige que todos os Estados à mesa concordem, ou ao menos se abstenham de bloquear. Isso não aconteceu. Nem chegou perto de acontecer. E a conferência de revisão ainda este ano chegará sem um mandato do Grupo de Especialistas Governamentais ainda em vigor, uma janela de meses, e não de anos, durante a qual negociações formais de um tratado poderiam ser lançadas.⁠6