Durante la guerra con Irán, un informe circuló en el aparato militar de Estados Unidos afirmando que un barco chino en Oriente Medio transportaba componentes relacionados con un programa de armas nucleares. La reacción fue inmediata, con militares armados listos para abordar el buque y aviones estadounidenses preparados para despegar en apoyo a la operación. Sin embargo, minutos antes de llevar a cabo la acción, se revisó el informe y se descubrió que una inteligencia artificial había identificado incorrectamente la carga.
El origen de la crisis se encontraba en la información sobre el manifiesto de carga del buque, que provenía del U.S. Special Operations Command Pacific. Un analista utilizó un chatbot para examinar esos datos, combinando información de fuentes abiertas con inteligencia de señales clasificada. De este proceso surgió la conclusión errónea de que el barco transportaba material vinculado a un programa de armas nucleares.
CNN informó que no ha podido determinar la carga real del buque ni qué componente fue confundido por el sistema, pero sus fuentes sostienen que la identificación era falsa. El error se amplificó cuando el analista utilizó inteligencia artificial para transformar los resultados en un informe con formato estándar, que comenzó a circular entre responsables acostumbrados a confiar en esos documentos.
El informe provocó que el Ejército estadounidense comenzara a preparar la interceptación del barco. Dos fuentes confirmaron que personal armado estaba listo para abordarlo y que cazas y aeronaves militares ya habían despegado. Fue solo minutos antes de la operación que funcionarios profundizaron en la información y descubrieron el uso del chatbot, lo que llevó a la conclusión de que la carga había sido identificada incorrectamente.
Una fuente describió el informe como “completamente falso” y afirmó que “casi inició una guerra mundial”. Aunque no hay información pública que confirme que Estados Unidos y China estuvieran al borde de un conflicto, la secuencia de eventos es notable: una operación militar estadounidense contra un buque chino estuvo a punto de ejecutarse debido a un error generado por inteligencia artificial.
Las alucinaciones son un defecto conocido de los grandes modelos de lenguaje, que pueden producir respuestas convincentes pero incorrectas. En un contexto militar, este mecanismo adquiere una dimensión crítica, ya que puede influir en decisiones sobre objetivos y movimientos de tropas.
El incidente ocurre en un momento en que el Pentágono está acelerando la incorporación de inteligencia artificial en diversas actividades, desde logística hasta análisis de inteligencia. El secretario de Defensa, Pete Hegseth, presentó una estrategia para eliminar obstáculos y extender estas herramientas entre los empleados del departamento.
El argumento militar es que procesar información y tomar decisiones más rápido puede ser una ventaja decisiva en un conflicto. Sin embargo, el episodio revela que esta rapidez también puede llevar a errores significativos.
Estados Unidos ha defendido que el uso responsable de inteligencia artificial debe mantener una cadena humana de mando, pero las fuentes indican que existe un ecosistema variado en el que diferentes organismos utilizan herramientas distintas bajo normas de verificación que también varían. El caso del barco chino ilustra que una equivocación convincente puede llevar a decisiones críticas sin que se detecte el error a tiempo.
