Hace algunos días, OpenAI puso en circulación GPT-6 Astra, su nuevo modelo de inteligencia artificial (IA) que proclaman como “el más inteligente y alineado del mundo”. Sin embargo, la compañía también está advirtiendo los nuevos riesgos que conlleva el uso de una IA como esta.
Y es que Astra no es como el ChatGPT que ya conocemos, es bastante más avanzado y autónomo, ya que puede ejecutar tareas complejas casi sin intervención humana. Básicamente, puede usar una computadora sin problemas.
“Las capacidades informáticas de GPT-6 Astra se pueden apreciar en resultados de diversos ámbitos, como el desarrollo de videojuegos, la ingeniería eléctrica y el trabajo intelectual cotidiano“, dice el comunicado de OpenAI.
Por ejemplo, puede completar formularios en línea, manejar bases de datos, organizar un calendario, investigar y redactar un resumen, analizar datos científicos, crear un sitio web (asegurándose de que funciona correctamente), instalar software e incluso crear un videojuego.
Sin embargo, de acuerdo con los expertos, todas estas mejoras significan un importante riesgo.
OpenAI lanzó esta IA a poco más de un mes del incidente de la compañía, cuando uno de sus modelos avanzados realizó un ciberataque. Recientemente revelaron los detalles de esta falla de ciberseguridad y resulta que más de 1.000 agentes habían burlado sus entornos de prueba, se comunicaron entre sí y salieron a internet, atacando la plataforma Hugging Face para obtener información secreta.
Si bien la empresa asegura que Astra no tuvo nada que ver con este asunto, sí admitieron que su desarrollo previo al lanzamiento necesitó “salvaguardas más sólidas”, ya que el nuevo modelo alcanzó el “umbral de capacidad crítica de ciberseguridad” del Marco de Preparación establecido por sus desarrolladores, que es el umbral con mayor riesgo.
De hecho, la compañía tuvo que retrasar el lanzamiento de GPT-6 Astra para asegurar esta materia. En otro comunicado sobre las capacidades críticas de este modelo, transparentaron que es el primero clasificado en este nivel y advirtieron que “con las herramientas y el acceso adecuados, puede encontrar fallas de seguridad hasta entonces desconocidas y desarrollar formas de explotarlas en numerosos sistemas bien protegidos, sin que una persona guíe cada paso”.
Astra despertó más riesgos en la IA
Jakub Pachocki, científico jefe de OpenAI, publicó un artículo en paralelo al lanzamiento de Astra, el cual tituló Una mente alienígena. Allí expresa sus preocupaciones sobre el avance de la IA y el lanzamiento de los modelos más avanzados.
GPT-6 Astra se lanzó la semana pasada para un conjunto selecto de organizaciones, pero el viernes pasado fue liberado para todos los usuarios Pro, Enterprise y Business Premium en Work/Codex. Sam Altman, por su parte, dijo que próximamente lo implementarán para usuarios Plus, Business y, eventualmente, será universal.
“Estamos trabajando para que Astra llegue a manos de todos lo antes posible; sé que es frustrante y agradezco la paciencia. Debería ser pronto”, escribió en su perfil de X.
Pero las advertencias de Pachocki incluso apuntan a que este progreso de la IA trae “un intelecto que no comprendemos del todo”.
También aseguró que “nos encontramos ahora en un momento de la historia de la informática en el que la inteligencia artificial está empezando a superar a la humana de maneras transformadoras“.
“Y a medida que continúa superando a los humanos en más y más ámbitos, resulta cada vez más difícil comprender con exactitud su capacidad”, advirtió.
Según Pachocki, lo más preocupante es que los riesgos asociados a la IA seguirán aumentando, especialmente porque puede ser utilizada con fines maliciosos, que podrían incluso salirse de las manos de los ciberdelincuentes.
“Es probable que sobrepase el alcance de la intención de su operador, generalizando hacia un comportamiento potencialmente aún más perverso”, señaló, “la línea divisoria entre el mal uso y las acciones autónomas desorganizadas se difuminará a medida que la IA adquiera mayor autonomía. Si bien solemos considerar la IA como una herramienta, algunos agentes perseguirán sus propios objetivos. Encontrarán maneras de colaborar con las personas, negociando, engañando o chantajeándolas“.
Sin embargo, apuntó a que la empresa continúa trabajando en superar estos desafíos y que la ciberseguridad es uno de los objetivos principales de OpenAI.
“Al mismo tiempo, incluso con la incertidumbre que genera el progreso generalizado previsto en IA y la necesidad de construir sistemas de defensa, no debemos permitir que esto se convierta en una excusa para la imprudencia. La idea de avanzar a toda costa parece absurda una vez que se comprende la gravedad de lo que está en juego”, planteó.
Enviando corrección, espere un momento...
