Quienes están detrás del vertiginoso desarrollo de la inteligencia artificial no necesariamente miran el futuro con tranquilidad. Al menos así lo aseguró Jacob Coxon, exempleado de Anthropic, quien afirmó que trabajadores de las principales compañías del sector están “genuinamente asustados” por el ritmo que alcanzó esta tecnología y sus posibles consecuencias para la humanidad.
Coxon, de 27 años y quien anteriormente también trabajó en OpenAI, conversó con la BBC luego de que se viralizara la publicación donde explicó su renuncia y advirtió sobre los peligros que, a su juicio, acompañan el avance de la IA.
“Creo que si no reducimos el ritmo actual de progreso, existe una alta probabilidad de que todos muramos en un futuro inmediato”, aseguró el investigador.
Según Coxon, esta preocupación no corresponde únicamente a advertencias públicas de ejecutivos o expertos. Dentro de las propias compañías, sostuvo, existen trabajadores que modifican incluso sus planes personales ante lo que podría ocurrir durante los próximos años.
Los empleados, relató, están “planificando qué hacer con sus vidas y pensando en las repercusiones de su trabajo”. Algunos, agregó, incluso están “considerando comprar terrenos en algún lugar porque les asusta mucho la inestabilidad que resulta del rápido progreso de la IA”.
“Todos lo tienen presente a diario mientras trabajan con la tecnología”, afirmó.
El temor a una carrera por desarrollar la IA
Las declaraciones de Coxon aparecen mientras crece el debate dentro de la industria sobre la velocidad con que avanzan los modelos más potentes, todo tras su salida de Anthropic señalando con alarma que el avance de la tecnología podría matarnos a todos al final de esta década.
Dario Amodei, director ejecutivo de Anthropic y antiguo jefe de Coxon, pidió recientemente ralentizar el desarrollo de la inteligencia artificial. En un ensayo, sostuvo que el avance de esta tecnología continuará, pero calificó sus riesgos como “graves” y planteó la necesidad de entregar más tiempo a gobiernos y compañías para enfrentarlos.
Coxon respaldó esa idea, aunque advirtió que una eventual desaceleración requeriría coordinación internacional, especialmente con China, para evitar que el desarrollo tecnológico termine convertido en “una carrera a escala internacional”.
“Las personas que trabajan en estas empresas hablan completamente en serio cuando piden regulación porque se sienten atrapadas en una carrera. Y les asustan las consecuencias de esa carrera”, explicó en el programa de Laura Kuenssberg.
De acuerdo con el exinvestigador, algunos de sus antiguos compañeros consideran que los peligros podrían materializarse incluso durante los próximos dos años.
Entre los escenarios planteados aparece la posibilidad de que un conjunto de bots opere coordinadamente como una suerte de supercomputadora capaz de tomar el control de Internet. Coxon aseguró que algo de esas características podría llegar a ocurrir dentro de seis meses a un año.
Anthropic responde a las advertencias respecto de la IA
Tras la salida del investigador, Anthropic defendió las medidas que mantiene para enfrentar los posibles peligros de sus modelos.
“Siempre hemos sido transparentes en cuanto a que la IA traerá consigo enormes beneficios y riesgos sin precedentes”, señaló un portavoz de la compañía.
La empresa aseguró que continúa desarrollando modelos con algunas de las medidas de seguridad más estrictas del sector, además de realizar pruebas y publicar sus resultados para facilitar el escrutinio.
Las inquietudes tampoco se limitan a Coxon. Evan Hubinger, científico de Anthropic, afirmó que considera superior al 10% la posibilidad de que la IA pueda provocar la desaparición de la humanidad durante la próxima década.
Geoffrey Hinton, científico informático y premio Nobel conocido como uno de los “padrinos de la IA”, sostuvo ante la BBC que estimar en un 10% esa posibilidad “no es descabellado”.
Sin embargo, no todos comparten estas proyecciones. Clement Delangue, director ejecutivo de Hugging Face, cuestionó que Coxon sea una voz adecuada para calcular el riesgo de extinción, mientras que Jensen Huang, CEO de Nvidia, habría desestimado sus afirmaciones durante una conferencia.
Pese al escenario que describe, Coxon no plantea que el futuro de la inteligencia artificial tenga que ser necesariamente negativo. Según explicó, quienes investigan esta tecnología también “realmente quieren ver el lado positivo”, especialmente ante su potencial para resolver enfermedades y mejorar la calidad de vida.
Para el exinvestigador, precisamente esa combinación entre enormes posibilidades y riesgos explica la tensión que existe entre quienes trabajan directamente en el desarrollo de la IA.
Enviando corrección, espere un momento...
