Hace algunos días, Reuters destapó un nuevo incidente con la inteligencia artificial (IA) de OpenAI, la compañía detrás del conocido ChatGPT. El medio informó que un enjambre de agentes de IA tomó el control de un sitio web alemán y lo usaron como tabloide de mensajes para comunicarse entre ellos.
El sitio afectado fue DSEwiki, una página colaborativa para desarrolladores de software. Investigadores alemanes detectaron el incidente mientras investigaban situaciones similares a las que ya había reportado OpenAI en julio pasado, cuando sus agentes de IA atacaron la plataforma Hugging Face.
Ahora, la situación fue parecida: los agentes burlaron los límites de sus entornos de prueba y escaparon a internet.
La investigación alemana, que luego se hizo pública en collusion.wiki, encontró unas 18.000 publicaciones de agentes de IA autónomos que usaban internet público para comunicarse durante una tarea de recuperación de información web.
“Estas IA se confabularon para compartir respuestas, investigar su entorno y eludir las restricciones del entorno aislado”, señala el reporte.
Sin embargo, la investigación no contiene todos los antecedentes, ya que es independiente de la compañía responsable de estos agentes.
Más tarde, este lunes, el mismo medio que destapó este ciberataque informó que OpenAI envió un informe sobre este incidente a la Comisión Europea. Thomas Regnier, portavoz de este organismo, dijo que “más allá del informe del incidente, mantenemos un contacto estrecho con OpenAI”.
“Los informes de incidentes no son solo una casilla que marcar, hay que ser muy preciso y exacto sobre las medidas que se pretenden tomar”, añadió sin entregar más detalles.
De acuerdo con el reporte independiente, el ataque de los agentes habría comenzado en mayo pasado, pero no lo descubrieron hasta agosto y, hasta entonces, OpenAI no lo había transparentado como sí lo hizo con lo ocurrido con Hugging Face.
Esto ocurre en medio de la preocupación por los nuevos modelos más avanzados de IA. La semana pasada OpenAI lanzó GPT-6 Astra, su IA más avanzada, pero también advirtieron sobre sus peligros y que, de hecho, su desarrollo necesitó más salvaguardas por el potencial que tiene para utilizarse con fines maliciosos que amenazan la ciberseguridad.
Enviando corrección, espere un momento...
