Mrinank Sharma, investigador especializado en aprendizaje automático estadístico que trabajaba para Anthropic, empresa de desarrollo de inteligencia artificial (IA), presentó su renuncia con un potente mensaje.
El doctorado en la Universidad de Oxford salió de la compañía hace pocos días y luego compartió su carta de renuncia en redes sociales, la cual está dando la vuelta al mundo por sus palabras de alerta.
Allí explica que decidió dejar la empresa desarrolladora del chatbot Claude después de su proyecto final, cuyo enfoque era comprender cómo los asistentes de IA podrían hacernos menos humanos o distorsionar nuestra humanidad.
Si bien comenta que está orgulloso de lo que hizo en Anthropic, que fueron mayormente medidas de seguridad para reducir riesgos de la IA, como el bioterrorismo, por ejemplo; dice que hasta aquí llegó.
“Me encuentro continuamente reflexionando sobre nuestra situación. El mundo está en peligro. Y no solo por la IA o las armas biológicas, sino por toda una serie de crisis interconectadas que se desarrollan en este mismo momento“, continúa la carta.
“Parecemos estar acercándonos a un umbral en el que nuestra sabiduría debe crecer en la misma medida que nuestra capacidad de afectar al mundo, para no enfrentar las consecuencias”, plantea.
¿Qué está pasando con la IA y Anthropic?
El experto dio a entender que su renuncia tendría que ver con ciertos caminos éticos y lo que ha visto en la empresa. “Durante mi tiempo aquí, he visto repetidamente lo difícil que es permitir realmente que nuestros valores gobiernen nuestras acciones”, reflexiona.
“Lo he visto dentro de mí mismo, dentro de la organización —donde constantemente enfrentamos presiones para dejar de lado lo que más importa—, y también en la sociedad en general”, añade.
Por último, dijo que ahora quiere dedicarse a algo que le permita “contribuir de una manera que esté plenamente en coherencia con mi integridad” y que aparentemente planea irse a un área más filosófica y poética.
Su renuncia llega cuando aún se están discutiendo en el mundo los límites éticos de la IA, especialmente la IA generativa, hasta dónde llegará, cómo los humanos nos relacionamos con ella y cuáles son sus riesgos.
En su perfil de X, Sharma también dijo que tras renunciar regresará a Reino Unido se volverá “invisible por un tiempo”.
