Experto avala los alarmantes riesgos de la IA y advierte que "Chile es un país enormemente vulnerable"

No son menores las advertencias que han surgido sobre el desarrollo de la inteligencia artificial (IA) avanzada durante las últimas semanas, donde incluso los líderes de las grandes compañías desarrolladoras como Anthropic y OpenAI se han sumado, planteando cuáles serían los peores escenarios y pidiendo que se ralentice el desarrollo de los modelos más avanzados.

Se habla del potencial “uso malicioso” de esta tecnología, de ciberataques a gran escala, armas biológicas, control excesivo del poder, la extinción de los humanos y otros escenarios que parecen sacados de la ciencia ficción, pero poco se ha hecho para detenerla.

Donald Trump, presidente de Estados Unidos, el país número uno en esta tecnología, dijo el lunes que aquellas afirmaciones no son más que “conspiraciones” que buscan menoscabar el progreso económico de su país. Sin embargo, los expertos apuntan a que son ciertas.

Marcelo Mendoza, académico del Departamento de Ciencia de la Computación de la Pontificia Universidad Católica, dice en entrevista con BiobioChile que hay un doble discurso de parte de figuras como Sam Altman y Dario Amodei y asegura que “ya nadie va a detener esta carrera”.

“Ambos han mencionado la necesidad de desacelerar, la necesidad de regular, pero tanto en Anthropic como en OpenAI hemos visto recientemente que los últimos modelos que han lanzado tienen mayores niveles de autonomía que los anteriores. Entonces, la apuesta en desarrollo tecnológico está colocada en el campo de la autonomía, que es precisamente lo que ellos vienen a decir que es necesario regular”, plantea y añade: “hay una contradicción”.

“Y Trump se opone, porque él más bien ve que hay una enorme ventaja en términos de la IA desarrollada en territorio estadounidense, en competencia con lo que está haciendo China, en realidad, que es el segundo actor más importante en desarrollo de IA”, agrega.

—¿A qué se refieren las grandes compañías de IA cuando dicen que “no entienden del todo” el nivel de inteligencia que están alcanzando sus modelos más avanzados?

R: A ver, todo lo que hay detrás de la inteligencia artificial son modelos de enorme volumen, ¿ya? Estamos hablando de billones de parámetros en redes neuronales artificiales, en las cuales humanamente es imposible hacer una traza de la información: cómo circula, cómo entra una consulta que nosotros hacemos, un prompt, por ejemplo, y qué es lo que realmente utiliza ese modelo para poder generar la respuesta. Es decir, el ojo humano no está entrenado para entender lo que ocurre dentro de una red neuronal artificial. Hay algo que se llama la ley de escala y, en la medida en que el modelo es más grande, funciona mejor, pero más grande significa también que lo entendemos menos. Entonces, hay algo que tiene que ver con el tamaño, con el volumen de datos que están usando, pero también con la cantidad de parámetros que están usando internamente.

Y hay un segundo factor, que es, a mi juicio, el más importante, más allá del tamaño. Así como los modelos de lenguaje, hoy en día probablemente todos nosotros tenemos la interacción con modelos como ChatGPT, por ejemplo; eso se realiza a través del lenguaje natural, que es el lenguaje humano hablado. Pero estos modelos también son capaces de generar código, es decir, pueden generar software, pueden programar. Y lo paradójico es que uno podría pedirle a una inteligencia artificial que programe código para hacer otra inteligencia artificial mejor. Entonces, como estamos delegando también en la inteligencia artificial el desarrollo del software, también estamos perdiendo control sobre la base de qué es lo que están haciendo para desarrollar ese software. Así que, desde el punto de vista de la lógica que hay, la lógica algorítmica que hay detrás de estos modelos, también estamos perdiendo el control, porque lo estamos delegando en la misma IA.

—¿Por qué no están siendo suficientes las salvaguardas en ciberseguridad para contener el uso “malicioso” de la IA?

R: Los agentes tienen dentro modelos de lenguaje, pero alrededor del modelo de lenguaje existe un software de control, que es el que define estas salvaguardas, pero también tiene ciertos objetivos. Hay que pensarlo como si uno tuviera una tabla con metas, objetivos a cumplir, software que te permite actuar sobre el entorno y que también permite medir sobre el entorno, por ejemplo, ir a buscar información a la web, etcétera, acceder a correos electrónicos. Y este cerebrito, digamos, sintético, que es el modelo de lenguaje, es el que procesa esta información y genera determinados resultados. La autonomía tiene que ver con cuántas atribuciones le damos a este modelo para que pueda modificar sus propios objetivos. Entonces, mayor autonomía significa, sobre la base de condiciones de contexto, te autorizo a que modifiques los objetivos de manera tal que, por ejemplo, maximices un objetivo más grande, como puede ser rentabilidad, como puede ser alguna característica específica del producto que estás generando. Eso es autonomía.

Entonces, es peligroso porque, si tú le das a la IA la atribución de poder modificar sus propios objetivos, entonces le estás dando una autonomía sin supervisión humana. Eso es lo peligroso porque casi todos los casos que tenemos de riesgos basados en inteligencia artificial se basan en agentes que son capaces de modificar sus propios objetivos durante el desarrollo o la ejecución de una tarea. Está este ejemplo de cómo, cuando se avisa en una compañía que vamos a apagar, a desconectar una inteligencia artificial, ella misma envía correos electrónicos para evitar que estos servidores sean apagados; es decir, surge la voluntad de sobrevivencia.

O el caso reciente de misiles de largo alcance, misiles balísticos teledirigidos con una inteligencia artificial que permite ajustar el objetivo. Se le indica: tu objetivo es un blanco militar. Sin embargo, debido a razones de contexto, modifica estos objetivos y termina finalmente impactando un blanco civil. Entonces, ese es el tipo de casos por los cuales estamos tan preocupados, porque, ¿hasta qué punto vamos a dejar que la inteligencia artificial tome autonomía sobre la base de los objetivos con los cuales opera y, finalmente, pueda terminar haciendo o cometiendo hechos que atenten contra las mismas personas?

—¿Es realista cuando dicen que la IA puede usarse, por ejemplo, para la creación de armas biológicas?

R: Sí, lo puede hacer. De hecho, tiene tantas capacidades hoy en día, inteligencia comparable, incluso superior en algunos aspectos a la inteligencia humana, que un problema matemático, el Navier-Stokes, fue resuelto en OpenAI con uno de sus últimos modelos sobre la base de alguna información que tenía un grupo matemático, de matemáticos humanos. Se le entregó esta información y este problema del siglo fue resuelto la semana pasada por una IA. O sea, realmente sí tiene capacidades para poder hacer cosas muy, muy complejas.

El problema está en lo siguiente: yo acabo de mencionar esto del software de control, ¿cierto? Que es lo que establecen las salvaguardas, el marco de operación de la inteligencia artificial. Pero resulta que eso puede ser hackeado. Entonces, tanto los modelos de lenguaje como el software de control se han filtrado, es decir, estas grandes compañías que desarrollan estas soluciones, también tienen problemas de filtración de sus códigos, y han caído en manos inapropiadas, en las cuales, efectivamente, tú puedes hackear ese software de control y pedirle a esta inteligencia artificial que desarrolle, por ejemplo: armas biológicas. Entonces, es un riesgo realmente real, porque tienes la capacidad para poder hacerlo, es una llave que te abre el desarrollo tecnológico, y si tú no eres capaz de controlarlo, en realidad lo que estás haciendo es colocar una herramienta muy poderosa en términos tecnológicos que eventualmente puede caer en malas manos.

—No es tan descabellado entonces que un ingeniero de Anthropic renuncie y diga “la IA va a matarnos a todos…

R: Jacob Coxon, ¿cierto? Y también el jefe de su equipo opina lo mismo, que no estamos siendo lo suficientemente serios con respecto a este tema. Nos parece una cosa de ciencia ficción o de algunas personas que son más bien alarmistas, pero en realidad, para los que estamos dentro del tema y nos damos cuenta de las reales capacidades que tiene, estamos alarmados, porque las capacidades que tiene de poder hacer muchas cosas son realmente sorprendentes. Entonces, si no nos tomamos en serio el tema de la regulación, si no le damos el suficiente peso al marco normativo para poder regular y tener mayores controles sobre el desarrollo de la inteligencia artificial, vamos a estar en problemas.

Y sumado a esto, hay otro problema más, que es que la concentración, en unas pocas manos, del desarrollo de la IA hoy en día está en muy pocas compañías, compañías que además están en 2 países, que son China y Estados Unidos. Entonces, hay relaciones enormemente asimétricas de poder que se producen por el acceso a esta tecnología, el reordenamiento eventualmente de la fuerza a nivel geopolítico, y por eso es tan importante quién finalmente está en esta carrera por lograr quién tiene la hegemonía en el desarrollo de la inteligencia artificial.

La IA es una tecnología habilitadora para el desarrollo de otras tecnologías. Quien la domine va a dominar el desarrollo tecnológico del siglo XXI. Es realmente algo muy importante para poder desarrollar fármacos, pero también te abre la posibilidad del desarrollo armamentístico. Entonces, por eso hay tanta inversión en inteligencia artificial, y por eso los jefes de Estado, estos dos estados tan importantes, China y Estados Unidos, están tan alineados con su desarrollo.

—¿Chile sería un país muy vulnerable ante estos escenarios de concentración del poder de la IA?

R: Chile es un país enormemente vulnerable, es un país muy pequeñito en el Cono Sur, con un estado que también es pequeño, que no tiene suficiente peso en términos de lo que se puede decir en el consenso internacional. En realidad, nosotros estamos en una situación sumamente asimétrica de relaciones de poder. Tenemos en nuestro marco normativo interno la Ley de Privacidad de Datos, ya es una ley que está vigente, pero esperamos que empiece a aplicarse a fin de año para poder resguardar la confidencialidad de los datos de carácter privado de las personas, precisamente en el contexto, por ejemplo, de poder ser incorporados al preentrenamiento de una inteligencia artificial. Eso tiene que entrar en vigencia, pero lo que tenemos en leyes de IA en este momento está a nivel de proyectos, están en discusión en el Congreso.

Hay un proyecto que fue ingresado en el gobierno anterior, que tiene una inspiración, y actualmente el gobierno vigente está con una inspiración distinta. Entonces, todo hace pensar que el proyecto del gobierno anterior no va a avanzar y va a ser modificado sustancialmente por las nuevas autoridades. En ese ejercicio de tira y afloja, nos estamos atrasando. Y, básicamente, el resultado es que no tenemos normativa para IA en Chile en este momento.

—¿Sería muy “destructivo” para la industria ralentizar el desarrollo de la IA avanzada? ¿Generaría muchas pérdidas?

R: No se va a retrasar. Ya nadie va a detener esta carrera. Precisamente porque es una carrera con muchos intereses económicos y nadie quiere echar pie atrás en esto. Así que es un ejercicio inútil pensar en cuánto se pierde. Nunca ha ocurrido tampoco en la historia, que se detenga el desarrollo, por ejemplo, de ningún tipo sobre la base de algún reclamo. Lo único que se me viene a la memoria es que en algún momento, bueno, en la Guerra Fría en torno al desarrollo de armas nucleares, fue muy difícil lograr que esa carrera armamentística se detuviera. Tuvieron que pasar muchos años, porque había intereses estratégicos de las grandes naciones.

Ahora estamos en un escenario similar, en el cual el desarrollo tecnológico enfrenta dos grandes potencias, Estados Unidos y China. Me parece que ninguno de ellos va a echar pie atrás y es muy ingenuo pensar que un llamado desde la Academia o incluso lo que ha hecho el Papa en su última encíclica, pueda tener resultados. Yo creo que no va a haber resultados en el corto plazo, esto se va a seguir desarrollando y por eso es tan necesario regular.

—¿Qué podemos hacer los ciudadanos comunes al respecto? Algunas personas hablan de boicot y otras de “uso responsable”, ¿cuál es tu opinión como experto?

R: Uso responsable. Ahora, como ciudadano, no es mucho lo que nosotros podemos hacer, porque el desarrollo tecnológico está en manos de estas grandes compañías. Entonces, el llamado a la responsabilidad a quienes están haciendo las inversiones en estas tecnologías, al mundo político, que es el que tiene que empujar una normativa, y lo que hemos hecho nosotros desde la Academia siempre ha sido empujar el debate hacia una reflexión acerca de las consecuencias que tiene el uso de la inteligencia artificial. Yo, en particular, no estoy por prohibir, por supuesto que no, sino que estoy por el uso responsable de la inteligencia artificial. Entiendo que es una tecnología que tiene enormes beneficios, por ejemplo, en el desarrollo de fármacos para combatir el cáncer. Entonces, es algo que salva vidas, pero al mismo tiempo, si no tenemos una regulación adecuada, puede ser usado para otros fines, como desatar una carrera armamentística.

Las Naciones Unidas (ONU) recientemente han pedido la necesidad de establecer algún tipo de marco normativo multilateral. Me parece que eso va en la línea correcta de lo que hay que hacer, pero es regulación. Hay dos como grandes enfoques, en el marco normativo, primero regular el uso y sancionar el mal uso, y el otro es hacer controles preventivos durante el desarrollo de la inteligencia artificial y sancionar las malas prácticas. Me parece que son alternativas que no son excluyentes. Creo que podemos avanzar en un proyecto que integre ambas visiones y buscar una normativa que esté a la altura de las circunstancias.

—¿Cuál sería el peor escenario al que podría enfrentarse la humanidad si no se toman medidas para regular y vigilar la IA?

R: Se habla de una superinteligencia. Yo todavía creo que estamos lejos de eso. Pero sí, parece que las capacidades de la inteligencia artificial para generar su propio código nos alejan de poder entender cómo está funcionando realmente. Y si perdemos la capacidad de poder explicar cómo funciona la inteligencia artificial, básicamente es algo que se nos escapó de las manos. Ese es el propio gran problema, que sea un desarrollo que esté, que descanse sobre la misma tecnología y que después no seamos capaces de explicar cómo funciona. Si no somos capaces de explicar cómo funciona, no la vamos a poder controlar.