Guterres exige una prohibición vinculante de los «robots asesinos» al abrirse el diálogo sobre IA en Ginebra

Su planteamiento fue inusualmente contundente. Las máquinas que seleccionan y atacan objetivos y quitan una vida sin control ni juicio humano, dijo, son moralmente repugnantes, políticamente inaceptables y deben ser prohibidas por el derecho internacional.⁠9 Era el tipo de lenguaje que la oficina del jefe de la ONU suele reservar para las minas terrestres o las armas químicas, y llegó en una semana en la que la seguridad de la IA ya se había convertido en una batalla política de primera línea en Washington.

Guterres aprovechó la tribuna de Ginebra para hacer dos cosas a la vez. Presentó un nuevo Compromiso de Seguridad Infantil en la IA junto con el llamamiento sobre las armas autónomas, replanteando el debate como uno que afecta a todos los hogares, no solo a los ministerios de defensa.⁠4 Y enmarcó el momento frente a un reloj que él mismo había puesto en marcha. Hace tres años, su Nueva Agenda de Paz señaló 2026 como año objetivo para un instrumento jurídicamente vinculante sobre las armas autónomas letales. Ese plazo expiró, en sus palabras, el día en que se abrió este diálogo.⁠6

El contexto importa. Las conversaciones en el marco de la Convención de la ONU sobre Ciertas Armas Convencionales, el mismo tratado que en su día prohibió los láseres cegadores, llevan 12 años estancadas, atrapadas en reglas de consenso que cualquier Estado puede utilizar como arma para frenar los avances.⁠6 El Grupo de Expertos Gubernamentales ha agotado el plazo de un mandato; más adelante este año se celebrará una conferencia de examen. En ese vacío, Guterres lanzó una advertencia: la IA avanza a una velocidad desbocada, se está realizando un experimento con nuestras propias sociedades sin un plan y sin consentimiento, y esto no es sostenible.⁠5⁠2

Lo que no dijo de forma explícita fue quiénes son los que se resisten. No le hizo falta. El panorama diplomático es bien conocido para cualquiera que haya seguido el lento avance de la CCW: un puñado de potencias militares con armas autónomas operativas o casi operativas encargadas o en servicio, y una lista más larga de Estados que prefieren seguir conversando antes que empezar a negociar. Ginebra es donde confluyen esas dos corrientes.

La razón por la que este debate no puede quedarse en las salas de comisiones es que la tecnología que se pide regular a los diplomáticos ya se ha utilizado. La cobertura de la sesión inaugural señaló que los robots asesinos ya no son una hipótesis, y presentó la reunión de Ginebra como respuesta a una realidad y no a un pronóstico.⁠3 Dicho de otro modo, el genio para el que la ONU intenta redactar normas no está en un laboratorio. Está en una flota.

Ese punto quedó subrayado esa misma semana por una disputa inusualmente pública entre el Departamento de Defensa de Estados Unidos y la empresa de IA Anthropic sobre las condiciones en que los modelos de frontera pueden desplegarse en sistemas de armas.⁠8⁠11 En apariencia, la disputa es una discusión sobre adquisiciones. En el fondo subyace la pregunta que Guterres planteó a la sala: quién decide cuándo se permite a una máquina apretar el gatillo, y cómo se plasma esa decisión sobre el papel antes de materializarse en código.

La posición oficial de la ONU es ahora indistinguible del lenguaje de campaña de las coaliciones de la sociedad civil que llevan una década presionando por una prohibición. Esa coincidencia forma parte de la historia. Guterres no se limitó a respaldar el objetivo de un tratado; exigió que ese objetivo fuera jurídicamente vinculante, y lo hizo en la sala donde se medirá la próxima ronda de conversaciones de la CCW.⁠2⁠4

El vacío es procedimental. La Convención sobre Ciertas Armas Convencionales funciona por consenso. Una prohibición de las armas autónomas requiere que todos los Estados presentes estén de acuerdo o, al menos, que se abstengan de bloquearla. Eso no ha ocurrido. Ni siquiera ha estado cerca de ocurrir. Y la conferencia de examen de finales de este año llegará sin un mandato vigente del Grupo de Expertos Gubernamentales, en un margen de meses y no de años durante el cual podrían iniciarse negociaciones formales de un tratado.⁠6