Sam Altman, el CEO de OpenAI, matriz de ChatGPT, publicó un mensaje de advertencia ante el rápido avance de los modelos más avanzados de inteligencia artificial (IA). Recordemos que la industria se ha visto fuertemente cuestionada en las últimas semanas, ya que varios actores han salido a enunciar sus peligros.
Esto luego de que algunos modelos realizaran ciberataques y grandes empresas como Anthropic y OpenAI expresaran sus resquemores al respecto. Hace unos días, de hecho, la empresa de Altman lanzó GPT-6 Astra, su modelo público más avanzado, pero Jakub Pachocki, científico jefe de OpenAI, publicó un artículo en paralelo expresando sus preocupaciones.
Ahora, finalmente, Altman se refirió al tema en una declaración que publicó en su perfil de X: “el mundo merece tener la certeza de que las empresas estadounidenses que desarrollan sistemas de IA cada vez más capaces actuarán de manera responsable, especialmente ahora que el ritmo de avance se ha acelerado”.
Ante este escenario, dijo que como parte de la industria están dispuestos a acatar regulaciones de seguridad “coherentes” para la IA y las nuevas herramientas que esto requerirá. Sin embargo, manifestó que no espera detener el desarrollo de esta tecnología, sino “marcar un ritmo”.
“El progreso ha sido rápido y seguirá siéndolo. Pero debería ser más lento de lo que podría ser en otras circunstancias; intervenciones como las evaluaciones de seguridad y el monitoreo tienen costos significativos”, planteó.
Y añadió que “vale la pena asumir estos costos para marcar el ritmo del desarrollo; ninguna presión competitiva de Estados Unidos debería justificar la imprudencia ni permitir que las capacidades avancen más rápido que la alineación y el monitoreo”.
Los dos peligros de la IA, según Sam Altman
En su hilo, Altman continuó explicando las dos maneras en que “el progreso de la IA podría salir muy mal”.
En primer lugar, dijo el experto, “podríamos perder el control del futuro frente a la IA. Esto es inaceptable; no tenemos reparos en decir que estamos del lado de la humanidad, y la IA siempre debe estar al servicio de las personas”.
“Para garantizarlo, necesitamos encontrar formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos”, añade.
Por otro lado, señala que “podríamos terminar en un mundo con una concentración excesiva de poder”. Esto apuntando a que una IA “extraordinariamente poderosa” podría ser utilizada por una persona o una empresa para imponer su visión del mundo.
Un escenario como este, advierte Altman, podría traer “consecuencias extremadamente distópicas”.
“Evitar estas dos amenazas requiere transitar por un estrecho camino intermedio; por ejemplo, un país podría llegar a acumular demasiado poder. Otro ejemplo sería que un solo laboratorio terminara concentrando demasiado poder”, concluye.
Enviando corrección, espere un momento...
