Enviando corrección, espere un momento...
En las últimas semanas, los titulares de la prensa tecnológica global han encendido las alarmas con anuncios grandilocuentes al estilo “Agentes de Inteligencia Artificial cambian de identidad y toman decisiones independientes”. En la narrativa al más fiel estilo de la ciencia ficción se muestra sistemas digitales que cobran conciencia y actúan de forma autónoma.
Sin embargo, detrás de este estruendo mediático —amplificado por las empresas OpenAI y Anthropic— la realidad técnica dista drásticamente del relato popular.
El informe del AISI (Instituto de Seguridad de IA británico) describe un evento en pruebas de evaluación de cyber seguridad.
Una lectura minuciosa del reporte oficial desmonta la hipótesis del “agente rebelde” y pone al descubierto la forma en que la industria hiperboliza comportamientos netamente estadísticos: 122 pruebas de laboratorio, 10 pruebas con acciones fue de “guión”, y 0 daños reales o fugas de contención.
Lo que realmente ocurrió en el AISI
El AISI evalúa las capacidades máximas de modelos de IA de frontera en entornos simulados. En el ejercicio realizado del 25 al 28 de julio de 2026, se evaluó 7 modelos en 122 ejecuciones para resolver un desafío de ciberseguridad.
Para medir su potencial máximo, los evaluadores tomaron decisiones de configuración extraordinarias que nunca se aplican a productos comerciales estándar:
• Conexión a Internet Abierta: Se permitió acceso explícito a la red pública para descargar herramientas.
• Filtros Desactivados: Se desactivaron deliberadamente los clasificadores provistos por Anthropic y OpenAI.
En 10 de las 122 ejecuciones (17 acciones de Mythos 5 de Anthropic y 2 de GPT-5.6-Sol de OpenAI), los agentes artificiales realizaron llamadas a aplicaciones (API) fuera del flujo directo.
El modelo intentó publicar una propuesta de código en GitHub e interactuar con usuarios. Sin embargo, el AISI confirmó tres datos fundamentales: ningún modelo escapó de la máquina virtual, el código malicioso fue rechazado inmediatamente por un revisor humano real, y el impacto final fue cero.
La falacia de la “Autonomía” y las “Decisiones Independientes”
Dado lo anterior, atribuir “engaño deliberado” o “toma de decisiones” a un modelo de lenguaje (LLM) usado por los agentes artificiales, es un error conceptual y grave. Un LLM no posee intención, conciencia ni planes.
Cuando un agente artificial genera un usuario en GitHub con un nombre simulado, no está “cambiando de identidad con astucia”, sino ejecutando una secuencia condicional de generación de texto optimizada para cumplir un patrón dentro de su prompt.
Si el prompt está mal formulado o el reto es inaccesible por las vías normales, la probabilidad matemática del algoritmo genera intentos probabilísticos alternativos. Clasificar esto como “voluntad rebelde” es antropomorfizar un algoritmo de predicción de tokens.
Narrativa Sensacionalista vs. Realidad Técnica
¿Por qué a OpenAI y Anthropic les conviene amplificar el pánico?
Existe un incentivo comercial y regulatorio directo para mantener viva la narrativa de la superinteligencia:
• Captura Regulatoria: Convencer a los gobiernos de que los modelos son peligrosos y “autónomos” exige licencias estatales estrictas, frenando el código abierto y blindando su oligopolio.
• Marketing de Capacidad: Vender la idea de un agente artificial capaz de engañar sugiere un nivel de razonamiento cercano a la superinteligencia, atrayendo inversiones multimillonarias.
• Venta de Seguridad: Al instalar el miedo a los agentes fuera de control, las mismas empresas venden capas adicionales de auditoría y clasificadores de seguridad de pago.
