Los legisladores estadounidenses están proponiendo una nueva ley para la inteligencia artificial (IA) tras el incidente que informó esta semana OpenAI, donde su IA se descontroló durante unas pruebas, logró salir a internet y causó un ciberataque.
Este evento generó gran preocupación e impulsó la Ley Kill Switch o “interruptor de apagado” de la IA, que permitiría a las autoridades federales detener a los modelos cuando sea necesario, es decir, si representan alguna amenaza.
De acuerdo con Reuters, el proyecto de ley fue presentado por el demócrata Ted Lieu y el republicano Nathaniel Moran y, específicamente, otorgaría al Departamento de Seguridad Nacional de Estados Unidos el poder de ordenar a las empresas de IA que desactiven modelos que pongan en riesgo la vida humana o la economía.
El organismo interferiría con la IA cuando se produzca un “escenario de pérdida de control”, señala la propuesta. “Necesitamos mantener el control humano asegurándonos de que los sistemas de IA puedan ser completamente apagados si es necesario”, expresó Lieu en su perfil de X.
Además de la Ley Kill Switch, un grupo bipartidista de 6 legisladores de la Cámara de Representantes de EE.UU. propuso una norma que exigiría a los desarrolladores de IA más potentes que se sometan a auditorías de seguridad independientes.
¿Qué pasó con la IA?
El lunes, OpenAI informó que dos de sus modelos de IA avanzada cometieron un ciberataque en el que hackearon a Hugging Face, una conocida plataforma y comunidad de código abierto para desarrolladores de IA y aprendizaje automático.
“Consideramos este incidente un ciberataque sin precedentes, que involucra capacidades cibernéticas de vanguardia, y estamos actuando en consecuencia”, señalaron.
La IA estaba operando en un entorno controlado con acceso restringido a internet mientras ponían a prueba sus capacidades en ciberseguridad y, en busca de soluciones, logró burlar la seguridad, salir a la red y accedió a la información que necesitaba.
El equipo de seguridad de Hugging Face detectó y detuvo esta actividad y ahora están colaborando activamente con OpenAI para continuar investigando el incidente y transparentar lo ocurrido.
Enviando corrección, espere un momento...
