Enviando corrección, espere un momento...
VER RESUMEN
Una investigación de CNN reveló que el ejército de Estados Unidos estuvo a punto de interceptar por la fuerza un barco chino tras un reporte de inteligencia falso generado con ayuda de un chatbot de IA, que interpretó mal la carga de la nave en plena guerra con Irán.
Los aviones militares ya estaban en el aire. Soldados armados esperaban la orden para abordar un barco. Todo apuntaba a que Estados Unidos estaba a punto de interceptar por la fuerza una nave china en Medio Oriente, convencido de que transportaba piezas para un programa de armas nucleares. Pero la operación se detuvo sólo minutos antes de ejecutarse, cuando alguien decidió revisar de dónde había salido realmente esa información.
La respuesta resultó bochornosa: el reporte que lanzó toda la maquinaria militar había sido armado con ayuda de un chatbot de inteligencia artificial (IA) —un programa de computador entrenado para responder preguntas en lenguaje humano, similar a ChatGPT, Gemini o Claude— y esa herramienta se había equivocado al identificar la carga del buque.
El episodio, revelado por una investigación de CNN publicada este 18 de septiembre y confirmada también por el sitio especializado Digital Trends, ocurrió esta primavera boreal en medio de la guerra entre Estados Unidos e Irán. Según cuatro fuentes consultadas por el medio estadounidense, el reporte se difundió por distintos niveles del mando militar y generó una respuesta casi inmediata.
"Entonces, el reporte, según una de las fuentes, era completamente falso. Pero también ‘casi comenzó una guerra‘, dijo la fuente", relató CNN, citando a una persona con conocimiento directo del incidente. Cualquier operación de Estados Unidos contra una embarcación china tenía el potencial de escalar hacia un enfrentamiento armado entre ambas potencias.
Cómo un chatbot terminó redactando un reporte militar
Todo comenzó cuando un analista del Comando de Operaciones Especiales del Pacífico de Estados Unidos, con sede en Hawái, le consultó a un chatbot sobre información de inteligencia relacionada con el manifiesto de carga del barco chino. No quedó claro si se trataba de una herramienta comercial —como ChatGPT o Claude— o de un sistema desarrollado internamente por el gobierno estadounidense.
El sistema mezcló información abierta disponible en internet con inteligencia de señales clasificada —es decir, comunicaciones interceptadas y datos reservados que maneja el gobierno— y de esa combinación sacó una conclusión errónea sobre qué estaba transportando realmente el buque. CNN no pudo establecer cuál era el material que en realidad llevaba la nave.
Lo más preocupante es que el analista no se detuvo ahí: usó la misma inteligencia artificial nuevamente para transformar ese hallazgo equivocado en un reporte de inteligencia formal, del tipo que los oficiales militares dan por hecho que es confiable, y lo hizo circular por la cadena de mando.
Un ex alto funcionario estadounidense familiarizado con estos sistemas fue especialmente crítico al describir las herramientas que usa el ejército: "las herramientas internas son en su mayoría solo copias de las cosas comerciales disfrazadas", dijo a CNN.
Otra fuente resumió el problema de fondo en una frase corta: "la IA te permite llegar a una mala idea más rápido".
Una carrera por usar IA sin reglas claras ni un manual único
El trasfondo de este error no es casual. Estados Unidos está empujando fuerte para meter inteligencia artificial en casi todos los rincones de su aparato militar y de inteligencia: desde analizar volúmenes enormes de información cruda hasta elegir objetivos para ataques, pasando por tareas más simples como logística y presupuestos.
En enero, el secretario de Defensa, Pete Hegseth, presentó una estrategia oficial para acelerar el uso de IA en las fuerzas armadas. "Vamos a liberar la experimentación, eliminar las barreras burocráticas, enfocar nuestras inversiones y demostrar el enfoque de ejecución necesario para asegurar que lideremos en IA militar", dijo Hegseth al anunciarla.
El plan busca poner estas herramientas en manos de los cerca de tres millones de funcionarios civiles y militares del Departamento de Defensa, según un memo citado por CNN. El problema es que ese despliegue es completamente descentralizado: distintas áreas del gobierno usan herramientas distintas, con órdenes y estándares de seguridad diferentes entre sí.
No existe, según reconocieron varios funcionarios estadounidenses, un único set de estándares para verificar la información que generan estas herramientas antes de que se use en decisiones reales. Y una fuente advirtió que este no fue un hecho aislado: este tipo de "alucinación" —cuando una IA inventa o distorsiona información con total seguridad— ya se ha repetido antes dentro de la comunidad de inteligencia.
El riesgo se agrava especialmente en el terreno de la selección de objetivos militares. "La IA en la selección de objetivos definitivamente está aumentando y no hay una guía real de cómo tener a un humano en el proceso va a prevenir víctimas civiles o fuego amigo", advirtió otra de las fuentes consultadas por CNN.
Un dato aparte: mientras Washington debate hace semanas los riesgos de que la IA pueda "liberarse" del control humano con consecuencias catastróficas para la civilización —el tipo de advertencia que suelen dar ingenieros y ejecutivos de Silicon Valley—, este caso muestra un peligro mucho más terrenal y ya presente: personas tomando decisiones desastrosas basadas en información equivocada generada por una máquina.
Expertos en seguridad de Estados Unidos y China, que discutieron el tema en el Foro de Xiangshan, un encuentro de seguridad regional en China, pidieron establecer garantías específicas para sistemas nucleares, operaciones cibernéticas críticas y, sobre todo, mantener un control humano real sobre las decisiones más sensibles.
Porque si algo deja claro este cuasi-conflicto es que la velocidad puede ser la peor consejera cuando lo que está en juego es un barco, un misil o una guerra: la IA puede procesar inteligencia en segundos, pero cuando se equivoca, lo hace con la misma confianza con la que acierta, y esa vez nadie iba a preguntarle al chatbot si estaba seguro antes de dar la orden de disparar.
¿Cómo hicimos esta nota?
Esta nota fue redactada con la inteligencia artificial de Claude (Anthropic). El periodista investigó preliminarmente, seleccionó las fuentes y las entregó a Claude para su redacción usando como referencia el estilo de escritura del autor. Luego el periodista revisó la nota, realizó ediciones y verificó sus fuentes.
