La compañía matriz de ChatGPT, OpenAI, estaría evaluando ralentizar el desarrollo de la inteligencia artificial (IA) avanzada, según informa un reporte de Bloomberg publicado este viernes.
Según el medio, el propio director ejecutivo de la empresa, Sam Altman, dijo a sus empleados esta semana que estaría dispuesto a tomar esta medida, esperando que la competencia siga sus pasos.
Testigos que participaron en esta reunión, pero permanecieron en el anonimato, señalaron que, si bien OpenAI podría marcar el ritmo del desarrollo de la IA avanzada, sigue habiendo empresas que no estarían de acuerdo.
¿Por qué Sam Altman quiere ir más lento?
La noticia llega tras una semana particularmente compleja para los desarrolladores de esta tecnología. Y es que en los últimos días, varios actores de la industria han hablado sobre los potenciales riesgos de los modelos más avanzados.
OpenAI justamente lanzó GPT-6 Astra, su modelo público más avanzado hasta ahora que, según advirtieron, alcanzó un umbral crítico en su desarrollo y necesitaron más salvaguardas para contener sus riesgos.
Incluso Jakub Pachocki, científico jefe de OpenAI, publicó un artículo expresando sus preocupaciones sobre el avance de la IA, donde admitió que incluso no comprenden del todo el nivel de intelecto que están alcanzando sus modelos.
“Si bien solemos considerar la IA como una herramienta, algunos agentes perseguirán sus propios objetivos. Encontrarán maneras de colaborar con las personas, negociando, engañando o chantajeándolas“, advirtió.
Los expertos creen que, de ralentizar el desarrollo, tendrían más tiempo para evaluar y comprender los riesgos, creando modelos mucho más seguros.
Anthropic estaría de acuerdo
También esta semana causaron conmoción las declaraciones de Jacob Coxon, ingeniero de software que trabajó para OpenAI y acaba de renunciar a Anthropic (la empresa de Claude), alegando que estas compañías “no están actuando con responsabilidad” y están “jugando con nuestras vidas”.
El exempleado también dijo que quienes están liderando esta industria “creen que podrá matarnos a todos al final de esta década”, porque “no hay otra actividad humana que suponga este nivel de amenaza”.
OpenAI, de hecho, no es la única que ha sugerido ralentizar el desarrollo de la IA avanzada. En junio pasado, Anthropic manifestó públicamente que estaban dispuestos a tomar aquella medida si las otras empresas también se comprometían. Sin embargo, por ahora estas afirmaciones no han llegado a ninguna parte.
La misma empresa incluso publicó un informe el jueves, alertando que su IA había sido utilizada por actores del gobierno de Irán, supuestamente para apoyar operaciones de vigilancia, planificar posibles ataques contra objetivos estadounidenses e incluso el uso de armas.
También mencionaron que temen su potencial uso para el desarrollo de armas biológicas.
Enviando corrección, espere un momento...
