Anthropic descubrió que su inteligencia artificial “Claude” podría llegar a desarrollarse por sí sola, sin intervención humana, y ahora proponen frenar masivamente el avance de la IA.
El jueves, la compañía publicó un informe donde revelan que, a la fecha, Claude ya escribe una proporción significativa de su código y que esto podría evolucionar en una IA que desarrolle sus propias versiones sucesoras.
“A mayo de 2026, más del 80% del código que integramos en la base de código de Anthropic fue escrito por Claude“, señalan.
Si bien los ingenieros de la empresa continúan dirigiendo y revisando el trabajo de la IA, advierten que se está produciendo una aceleración que podría convertirse en una “autorreferencia recursiva”.
Con este concepto, hacen referencia a la capacidad de la IA para auto-mejorarse, construir a sus modelos sucesores y seguir perfeccionándose por sí sola.
“No tenemos buenas intuiciones sobre cómo sería este mundo, porque nuestra economía actualmente está impulsada por humanos y herramientas creadas por humanos”, advierte el informe.
En este sentido, temen que las capacidades de la IA eclipsen por completo las de los humanos y que el modelo se prolifere en toda la economía.
“Es difícil predecir cómo será la economía si el trabajo humano deja de ser competitivo. Incluso si el desarrollo de modelos se automatizara y volviera recursivo por completo, no podemos predecir qué significaría eso para la vida diaria de la mayoría de las personas”, plantean.
Anthropic llama a detener a la IA
Ante estas preocupaciones, la compañía manifestó que está dispuesta a ralentizar el desarrollo de esta tecnología si todos los agentes tecnológicos que también trabajan en ello se comprometen.
“Si fuera posible ralentizar el desarrollo de esta tecnología para disponer de más tiempo para afrontar sus enormes implicaciones, creemos que sería algo positivo. Pero si esta ralentización simplemente permite que los actores menos precavidos se pongan al día tecnológicamente, podría dejar a todos en una situación de menor seguridad”, advierten.
Y añaden que debería existir un mecanismo de coordinación global, ya que, sin él, las empresas y los gobiernos se verían obligados a tomar decisiones difíciles en materia de seguridad, sometidos a presiones competitivas y también geopolíticas.
“Creemos que sería beneficioso para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la IA de vanguardia para que las estructuras sociales y la investigación sobre alineación se adapten al avance de la tecnología”, aseguran.
Por último, informaron que en los próximos meses estarán difundiendo estas preocupaciones, estableciendo conversaciones con líderes políticos, investigadores, otras empresas de IA y también la sociedad civil.
“Esta es la oportunidad para investigar estas cuestiones en conjunto, y es importante que personas ajenas a las empresas de IA participen en esta deliberación”, concluyen.
Enviando corrección, espere un momento...
