Durante la guerra con Irán, un informe comenzó a circular por el aparato militar de Estados Unidos con una conclusión alarmante: un barco chino que navegaba por Oriente Medio transportaba componentes relacionados con un programa de armas nucleares. La reacción fue inmediata. Militares armados se prepararon para abordar el buque y aviones estadounidenses llegaron a despegar para apoyar la operación. Solo minutos antes de ejecutarla alguien revisó con mayor profundidad el informe y descubrió el problema: una IA había identificado incorrectamente la carga.
El documento era, según una de las fuentes, “completamente falso”.
La carga del barco chino. El origen de la crisis estaba en información sobre el manifiesto de carga del buque procedente del U.S. Special Operations Command Pacific. Un analista utilizó un chatbot para examinar esos datos y la herramienta combinó información de fuentes abiertas con inteligencia de señales clasificada almacenada por el Gobierno estadounidense.
De ese proceso salió una conclusión explosiva: el barco transportaba material vinculado con un programa de armas nucleares. CNN contaba que no ha podido determinar qué llevaba realmente el buque ni qué componente confundió exactamente el sistema, pero sus fuentes sostienen que aquella identificación era falsa. Lo importante es que el error no se quedó encerrado en la pantalla del analista.
Tres IA se enfrentaron en 'Juegos de Guerra'. El 95% de ellas recurrió a las armas nucleares y ninguna se rindió jamás
Un error en informe. Porque el analista volvió a utilizar inteligencia artificial para transformar los resultados en un informe con el formato estándar empleado por los servicios militares. Ahí aparece una de las partes más inquietantes del episodio: una alucinación generada por un chatbot adquirió la apariencia de un producto convencional de inteligencia y comenzó a circular entre responsables acostumbrados a confiar en esa clase de documentos.
No fue una IA autónoma ordenando una operación militar, sino una cadena de seres humanos tomando decisiones sobre información que había sido generada y presentada mediante IA sin que el error se detectara a tiempo. Una de las fuentes consultadas por CNN resumió el problema con una frase especialmente gráfica y certera: la IA permite “llegar más rápido a una mala idea”.
Por los pelos. El informe provocó que el Ejército estadounidense comenzara a preparar la interceptación del barco. Dos fuentes aseguran que personal armado se disponía a abordarlo y otras indican que los cazas y aeronaves militares ya habían despegado. Fue minutos antes de la operación cuando funcionarios profundizaron en el origen de la información, descubrieron la utilización del chatbot y comprobaron que este había identificado incorrectamente la carga.
Una fuente describió el informe como “completamente falso” y aseguró que “casi inició una guerra mundial”. Por supuesto, no existe información pública que permita afirmar que Estados Unidos y China estuvieran a punto de iniciar una Tercera Guerra Mundial, pero la secuencia documentada resulta lo suficientemente extraordinaria como para pensarlo: una operación estadounidense contra un buque chino estuvo cerca de ponerse en marcha con consecuencias inimaginables, y todo por una conclusión errónea producida con ayuda de IA.
El problema no es la IA, somos nosotros. Las llamadas alucinaciones son uno de los defectos conocidos de los grandes modelos de lenguaje: pueden producir respuestas convincentes que contienen información incorrecta o directamente inventada. En un chatbot cotidiano, el resultado puede ser una fecha falsa o una referencia inexistente. Sin embargo, trasladado a inteligencia militar, el mismo mecanismo adquiere otra dimensión porque puede alimentar decisiones sobre objetivos, movimientos de tropas o ataques.
El episodio del barco chino muestra además que mantener formalmente a un humano dentro de la cadena de decisión no elimina automáticamente el riesgo. Si ese humano confía demasiado en la herramienta, trabaja bajo presión para producir inteligencia con mayor rapidez o recibe el error dentro de un documento aparentemente fiable, la supervisión puede convertirse en poco más que otro eslabón de la misma cadena.
Washington contra la lógica. El incidente llega mientras el Pentágono acelera la incorporación de inteligencia artificial a prácticamente todas sus actividades, desde logística y presupuestos hasta análisis de enormes cantidades de inteligencia y selección de objetivos. En enero, el secretario de Defensa Pete Hegseth presentó una estrategia destinada precisamente a eliminar obstáculos y extender estas herramientas entre los aproximadamente tres millones de empleados civiles y militares del departamento, mientras plataformas específicas están poniendo modelos generativos al alcance de cada vez más personal.
El argumento militar es sencillo: en un eventual conflicto con China u otro adversario, procesar información y decidir más deprisa puede convertirse en una ventaja decisiva. El problema revelado por este episodio es el reverso exacto de esa ventaja: también permite equivocarse mucho más deprisa.
20 años anticipando el Apocalipsis: todas las veces que alguien ha dicho que la IA nos iba a matar a todos
El barco chino ofrece una advertencia mucho más inmediata que los escenarios futuristas sobre inteligencias artificiales fuera de control. Aquí la máquina no necesitó rebelarse, disparar un arma ni asumir el mando. Le bastó con equivocarse, presentar la equivocación de manera convincente y conseguir que varios humanos estuvieran a punto de actuar como si fuera cierta.
En Xataka | ¿Cómo podría acabar la IA con la humanidad? Cumpliendo la pesadilla de EEUU y China: provocando una guerra nuclear por error
En Xataka | "No confío en que Anthropic y OpenAI abran la IA de frontera": un ingeniero de DeepSeek carga contra EEUU
