Bilal Chughtai, exinvestigador de seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind, anunció esta semana que recientemente renunció a la empresa y se sumó a las advertencias de otros trabajadores de la IA que han señalado que su desarrollo estaría poniendo en riesgo a la humanidad.
“En Google, fui testigo de primera mano del desarrollo de la IA. Yo también estoy extremadamente preocupado por la trayectoria que esta tecnología está siguiendo por defecto. Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar ese desenlace“, planteó.
Chughtai no es el primero que ha lanzado advertencias como esta y, en los últimos días, incluso las grandes figuras tras compañías como Anthropic, OpenAI y xAI han manifestado que están de acuerdo con frenar su desarrollo, aunque no lo han concretado.
Ahora, el exinvestigador de DeepMind reconoció que el progreso de la IA en los últimos años ha sido “vertiginoso” y no se parece en nada a la tecnología que había hace muy poco. “Cuando comencé a trabajar en IA, a principios de 2022, las inteligencias artificiales eran, de manera bastante graciosa, prácticamente inútiles”, sostuvo en declaraciones que publicó en su perfil de X.
“Las cosas solo se volverán más alocadas: creo que es posible que las empresas de IA logren, en los próximos años, construir sistemas de IA superinteligentes que superen ampliamente las capacidades humanas en todos los ámbitos. No estoy seguro de que estos sistemas de IA hagan lo que nosotros queremos”, advirtió.
“En particular, las superinteligencias desalineadas podrían, al igual que los agentes de IA fuera de control involucrados en el incidente de Hugging Face, escapar de nuestro control y llevar a cabo acciones peligrosas que podrían provocar la pérdida permanente de la capacidad de la humanidad para decidir sobre su propio destino o incluso su muerte”, añadió.
En este contexto y, al igual que han mencionado otros líderes de la industria, dijo que el mayor desafío es la alineación de la IA “y es un problema difícil que aún no hemos resuelto”. Cabe señalar que, cuando los expertos hablan de “alineación”, se refieren a asegurar que los sistemas de IA funcionen de forma segura, alineados con los objetivos humanos, garantizando su control y evitando que tomen decisiones perjudiciales, sesgadas o peligrosas para las personas.
“Nuestra comprensión actual de cómo entrenar sistemas de IA que realmente quieran lo que nosotros queremos es extremadamente rudimentaria. Peor aún, no estamos avanzando a tiempo para resolver el problema de la alineación: las capacidades de las IA de frontera están mejorando mucho más rápido que nuestra comprensión de cómo lograr que estas estén alineadas”, advirtió Chughtai.
Pese a esto, dijo mantenerse “optimista” sobre la posibilidad de desarrollar la IA, siempre y cuando se frene su desarrollo. “Tenemos que ajustar el ritmo del desarrollo de la IA a una velocidad que la sociedad pueda manejar, de modo que los riesgos emergentes puedan abordarse antes de que se produzcan daños extremos”, planteó.
“En términos más generales, necesitamos que muchas más personas piensen detenidamente sobre el problema de hacer que la IA avance de una manera beneficiosa. En mi opinión, es el problema más importante al que se enfrenta la humanidad en este siglo, y lo que está en juego es enorme”, concluyó.
Enviando corrección, espere un momento...
