Enviando corrección, espere un momento...
La renuncia de Jacob Coxon, investigador de Anthropic, una de las compañías líderes en inteligencia artificial, debería llamar nuestra atención. Coxon no abandona la industria porque considere que la IA no funciona. Todo lo contrario. Su preocupación es que está funcionando demasiado bien y que avanzamos hacia sistemas cada vez más capaces y autónomos sin tener todavía garantías suficientes de que podremos controlarlos.
Puede parecer una discusión futurista, pero probablemente no lo sea.
Durante los últimos años hemos hablado de inteligencia artificial principalmente desde la perspectiva de sus beneficios: productividad, automatización, nuevos medicamentos, mejores predicciones, menores costos y nuevas oportunidades de negocio. Todo eso es real.
Sin embargo, mientras las capacidades de los modelos aumentan, comienza a surgir una segunda conversación: qué ocurre cuando estos sistemas dejan de ser simples herramientas que responden preguntas y comienzan a actuar por sí mismos.
La diferencia es importante. Un chatbot espera instrucciones. Un agente de inteligencia artificial puede definir pasos intermedios, utilizar herramientas, escribir código, navegar sistemas, comunicarse con otros programas y ejecutar tareas durante largos períodos.
Si además los modelos comienzan a participar en la construcción de nuevas generaciones de IA, aparece una pregunta que hasta hace poco pertenecía principalmente a la ciencia ficción: ¿qué sucede si la velocidad con que mejora la tecnología supera nuestra capacidad para entenderla y supervisarla? El problema más complejo quizás ni siquiera sea tecnológico. Es económico.
OpenAI, Anthropic, Google, Meta y otras compañías están involucradas en una carrera global por desarrollar los modelos más avanzados. Las inversiones son gigantescas y el premio potencial también. En ese contexto, pedirle a una empresa que reduzca unilateralmente la velocidad de desarrollo resulta difícil. Si una compañía decide avanzar con mayor cautela, otra puede aprovechar la oportunidad.
Es un problema clásico de incentivos: todos podrían preferir un desarrollo seguro, pero nadie quiere ser el primero en frenar.
Por eso resulta insuficiente pensar que la seguridad de la inteligencia artificial puede depender exclusivamente de la buena voluntad de las compañías que la desarrollan. En industrias como la farmacéutica, la aviación o la energía nuclear aceptamos hace décadas que tecnologías de enorme beneficio también requieren evaluaciones independientes, estándares y mecanismos de supervisión.
La inteligencia artificial probablemente deberá recorrer un camino similar.
Eso no significa detener la innovación ni asumir que una catástrofe es inevitable. Las predicciones más extremas sobre una IA capaz de escapar completamente del control humano siguen siendo escenarios, no hechos comprobados. Pero tampoco parece razonable esperar a que ocurra un accidente grave para comenzar a discutir las reglas.
La verdadera pregunta ya no es si debemos desarrollar inteligencia artificial. Esa decisión, en la práctica, ya está tomada. La pregunta es otra: ¿cómo aseguramos que una tecnología cada vez más poderosa continúe siendo una herramienta al servicio de las personas?
Y quizás la advertencia más importante de esta renuncia sea precisamente esa. Cuando incluso algunos de quienes están construyendo los sistemas más avanzados del mundo dicen que deberíamos avanzar con mayor cuidado, al menos vale la pena escucharlos.
Alexis Montecinos
Experto en Inteligencia Artificial Aplicada.
Académico de Postgrados Universidad Autónoma de Chile.
