Recientemente, los dichos de Sam Altman, el CEO de OpenAI, causaron debate entre los expertos en inteligencia artificial (IA), ya que expresó que esta tecnología habría alcanzado la “singularidad“.
El empresario lanzó esta conclusión a pocos días del comentado incidente de su empresa, cuando dos de sus modelos más avanzados “escaparon” a internet y provocaron un ciberataque, todo ello mientras se encontraban en un entorno de pruebas controlado.
En el podcast Relentless, Altman comentó que este precisamente sería el momento de la singularidad: “he estado esperando esto toda mi vida, y creo que va a ser increíble, enormemente positivo, fantástico para el mundo“, aseguró.
Sin embargo, algunos expertos se han mostrado reacios al respecto, señalando derechamente que OpenAI, la compañía detrás de ChatGPT, no está ni cerca de haber alcanzado ese punto.
¿Qué es la “singularidad” de la IA?
Pero primero hay que entender qué es la “singularidad”. El término, de hecho, no es nuevo y se viene comentando hace varias décadas. Vernor Vinge famoso matemático, teórico de la computación y escritor estadounidense, lo definió en 1993 como el momento en que la IA supere la inteligencia humana y comience a mejorarse a sí misma.
El matemático planteó que esto produciría una aceleración tan rápida de esta tecnología, que los humanos ya no podrían predecirla ni controlarla. Un escenario digno de la ciencia ficción.
Sin embargo, algunos expertos y académicos han salido a rebatir a Altman, señalando que su IA no es más inteligente que los humanos y mucho menos puede perfeccionarse por sí sola.
En un artículo para The Conversation, Kai Riemer, profesor de tecnologías de la información y organización de la Universidad de Sídney; y Sandra Peter, directora del programa Sydney Executive Plus de la Escuela de Negocios de la misma casa de estudios, dijeron que “los sistemas que vende Sam Altman no cumplen con ninguna de estas dos características“.
Por su parte, Brian Jackson, director principal de investigación de Info-Tech Research Group señaló en declaraciones a la revista Fortune que el incidente que ocurrió recientemente con OpenAI no prueba la llegada de la singularidad.
“Parte de la singularidad consistiría en escapar del entorno controlado y perder el control de la IA. Pero la otra parte sería que la IA ahora estableciera sus propios objetivos e intenciones y tuviera la capacidad de autosostenerse, y eso no sucedió en absoluto”, planteó.
¿Por qué Sam Altman estaría equivocado?
Riemer y Peter sostienen que la IA por sí sola no puede volverse más inteligente. Si bien los modelos como los que desarrolla OpenAI son modelos de lenguaje grandes (LLM), son entrenados por humanos y no pueden cambiar o aprender mientras son ejecutados.
“Para que un modelo de IA sea más inteligente, se necesita otra sesión de entrenamiento con datos nuevos seleccionados por humanos, decenas de miles de chips especializados y una enorme cantidad de energía”, señalan.
Lo que ocurrió cuando los modelos de Altman escaparon y accedieron a internet fue porque estaban siguiendo instrucciones humanas que no habían sido del todo específicas, pero la IA siguió siendo idéntica después del incidente. “No aprendió nada de lo que hizo”, apuntan.
Por otro lado, para que una IA supere a la humanidad, ambas inteligencias tendrían que ser similares, y los expertos señalan que esto está alejado de la realidad. Por lo tanto, no hay una escala de comparación siquiera.
“La inteligencia humana es inseparable de ser un cuerpo vivo con necesidades y deseos. Los humanos aprendemos continuamente al interactuar con el mundo y al recibir información a través de nuestros sentidos”, señalan.
“Un modelo de IA no tiene nada de esto. No tiene cuerpo, ni necesidades, ni ciclo de acción-retroalimentación, ni interés alguno. Entre las indicaciones, es simplemente un objeto matemático estático”, añaden.
Si bien Riemer y Peter aseguran que la IA puede superar a los humanos en algunas cosas, como escribir un texto o resolver un problema matemático rápidamente, hay otras que simplemente no están a su alcance.
“Entonces, ¿cuál es más inteligente? La pregunta no tiene sentido. No existe una única escala que humanos y máquinas estén escalando. La IA ya nos supera con creces en algunas tareas, mientras que es incapaz de realizar otras que cualquier niño puede hacer“, concluyen.
Jackson, por su parte, dice que, sin duda, los modelos de IA alcanzaron un límite tras el incidente de OpenAI, pero los humanos siguen teniendo la capacidad de desactivarlos, es decir: control.
En este sentido, sugirió que mejor “centrémonos en implementar nuestra tecnología con la gobernanza adecuada y en seguir asegurándonos de que tenemos el control de lo que sucede”.
Enviando corrección, espere un momento...
