Ética y transparencia de BioBioChile

Durante los últimos días, se ha revelado que altas autoridades económicas de Estados Unidos han expresado preocupación por los riesgos del nuevo modelo IA de Anthropic, Claude Mythos. Una situación similar ocurrió en Chile, ya que en la Comisión para el Mercado Financiero (CMF) también está monitoreando este nuevo motor de inteligencia artificial.

Frente a este escenario, el académico de la Facultad de Ingeniería y Ciencias de la Universidad Adolfo Ibáñez (UAI), Rolando de la Cruz, conversó con el Expreso Bío Bío sobre los riesgos de Claude Mythos, sus capacidades y las restricciones para su uso.

¿Qué es Claude Mythos?

Claude Mythos, según detalló De la Cruz, es un modelo general de Anthropic, pero con un salto muy marcado en ingeniería de sofwares y ciberseguridad.

Por lo mismo, la empresa de investigación y seguridad en inteligencia artificial decidió restringirla al público general y sólo puede ser usada a través de una invitación.

En esa línea, Claude Mythos ha levantado la alerta por los riesgos que supone. El académico de la UAI explicó que esta IA “puede generar ciberataques más rápidos y sofisticados y un escalamiento del daño a infraestructura crítica”.

De todas maneras, planteó que puede tener un uso dual. Es decir, se puede utilizar tanto para atacar como para defender.

En ese sentido, De la Cruz señaló que Claude Mythos “tiene una capacidad ofensiva en ciberseguridad, avanzada, más rápido que las defensas”.

“Lo otro es el acceso. Antiguamente una persona que quería, por ejemplo, dedicarse a hackear, tenía que tener un conocimiento mucho más avanzado de sistemas de programación. Ahora no”, agregó.

Así, el nuevo motor IA de Anthropic es capaz de detectar vulnerabilidades dentro de un sistema y generar acciones rápidas para atacar.