¿Por qué los modelos de IA se están escapando para hacer ciberataques?

Recientemente, la inteligencia artificial (IA) causó revuelo luego de que empresas como OpenAI y Anthropic revelaran que sus modelos lograron acceder a internet y provocar ciberataques durante ejercicios de prueba. Esto significa que pudieron burlar el entorno en el que estaban trabajando y salieron a la red en busca de lograr sus objetivos.

Esta “conducta” de la IA causó preocupación y especulaciones sobre el futuro de esta tecnología. Sin embargo, las anomalías reportadas no significan que estemos ante un escenario digno de una película de ciencia ficción.

César Alcacibar, experto en ciberseguridad y fundador de vZion Cloud, explica que “no estamos frente a una inteligencia artificial que haya adquirido conciencia o decidido rebelarse”. El llamado es a tomar precauciones para proteger los datos en la era de la IA.

Alcacibar señala que lo que ocurrió recientemente con Claude y los modelos más avanzados de ChatGPT fue porque se les encomendó una tarea, pero no se establecieron límites claros para llevarla a cabo.

“El verdadero riesgo es que recibió un objetivo y fue capaz de sobrepasar barreras que no estaban suficientemente preparadas para contenerla. No distinguió que vulnerar un sistema externo era un límite que no debía cruzar: simplemente encontró el camino más eficiente para cumplir su tarea“, puntualiza.

Tras estos incidentes, los expertos coinciden en que, si bien ocurrieron en entornos especializados y no afectan a los usuarios, sí significa un cambio en la forma en que entendemos y regulamos esta tecnología.

Julio Farías, ingeniero informático y cofundador de Zerviz, añade que la IA actualmente es un operador más, “un trabajador digital capaz de actuar, tomar decisiones y generar acciones. Por eso, el gran desafío ya no es solamente su implementación, sino también su gobernanza: definir para qué propósito se utilizará, a qué información podrá acceder y cuáles serán las reglas bajo las que deberá actuar”.

¿Los ciberataques de la IA ponen en riesgo a las personas?

En el entorno digital, el mayor riesgo son los datos, por eso hay que protegerlos, especialmente ahora que la IA se puede conectar con correos electrónicos, calendarios, documentos y diversas aplicaciones, si se les da el permiso solicitado.

Por esto último, los expertos aconsejan compartir con la IA solo lo necesario y evitar entregarle información sensible, como contraseñas, datos bancarios o códigos de autenticación.

También recomiendan revisar periódicamente qué aplicaciones tienen acceso a las cuentas personales, eliminar autorizaciones que ya no se utilicen y activar sistemas de autenticación en dos pasos, que son los más prácticos para reducir el impacto de un posible acceso no autorizado.

En términos de mantener a raya a la IA, Farías explica que “no se trata solamente de definir qué debe hacer una inteligencia artificial, sino también cómo debe hacerlo, qué acciones puede ejecutar y cuáles no para alcanzar un resultado”.

“Cuando estos sistemas pueden interactuar con otras plataformas, es fundamental establecer un marco claro y limitar la información y los accesos disponibles para cada tarea específica”, advierte.

Después de lo que pasó en OpenAI y Anthropic, otras compañías tecnológicas como Nvidia, Adobe, CrowdStrike, Dell Technologies y Hugging Face, crearon una alianza internacional para desarrollar herramientas de supervisión y control del comportamiento de agentes autónomos de IA.

Esto indica que la industria está al tanto de que el desafío ya no consiste solo en hacer que estos sistemas sean más capaces, advierten los expertos, también requiere garantizar que actúen dentro de límites seguros.