La joven fue víctima de ciberacoso luego de que un desconocido utilizara una Inteligencia Artificial (IA) para crear fotos de ella desnuda.
La Inteligencia Artificial (IA) continúa demostrando que debe ser regulada, como han señalado varios expertos. Y es que durante los últimos días se viralizó el caso de una joven que acusó que alguien había estado usando una IA para crear nudes (fotos desnudas) de ella a partir de imágenes que posteó en redes donde aparece completamente vestida.
La joven, cuyo nombre en TikTok es Rachel, contó que una cuenta misteriosa de Instagram le envió las imágenes para extorsionarla y después las difundió entre varios usuarios.
Cabe recordar que existen herramientas de IA que logran resultados bastante realistas utilizando técnicas como la edición de imágenes y el deepfake, por lo que las fotos que apunta la usuaria de TikTok, realmente la preocuparon.
“Alguien me envió una solicitud de mensaje en Instagram desde una cuenta falsa, sin seguidores, sin publicaciones, nada. Y eran fotos mías que yo había publicado completamente vestida con las que usaron un editor con IA para editarme desnuda“, explicó.
“Ellos básicamente me photoshopearon desnuda”, contó entre lágrimas. “Es muy raro, pero es más raro que me las envíen y lo que es incluso peor es que al día siguiente cuando desperté tenía decenas de mensajes con estas imágenes, pero sin la marca de agua”, agregó.
Esto significa, explicó Rachel, que la persona que utilizó el programa de IA para editar sus fotos, pagó para obtener las imágenes de sus desnudos falsos sin la marca de agua y las difundió en internet. “Las distribuyó como si fueran reales”, puntualizó.
Asimismo, la joven explicó que si bien ella se expone en redes sociales constantemente, su cuerpo no es como esas fotos y la IA incluso le agregó algunos tatuajes que ella no tiene, lo cual tuvo que explicar para desmentir que fuera nudes reales.
Además, tuvo que aclarar que ella no vende contenido en plataformas como Only Fans, por ejemplo, puesto que algunos de sus seguidores creyeron que fue así como se habían difundido las imágenes. De hecho, en primera instancia había publicado las fotos explicando que eran falsas, pero tuvo que borrarlas debido a los comentarios que recibió.
@rache.lzh5 u deserve nothing
La IA no tiene regulación contra los ‘nudes’
Usuarios de internet también recordaron un caso similar de nudes con IA que ocurrió hace algunas semanas, cuando se conoció que el youtuber y streamer estadounidense ‘Atrioc’ había pagado a un programa de IA para crear desnudos de sus amigas y otras streamers que conocía.
Este caso se consideró en la comunidad de Twitch como un “abuso sexual tecnológico”, por el que Atrioc se disculpó, admitió que había pagado por este contenido y anunció que se retiraría de internet por un tiempo.
Esto evidenció que casos como el de Rachel no son el único y que ahora la IA también representa un peligro para el tipo de contenido que circula el internet, más allá de las noticias falsas, que comenzaron a viralizarse en primera instancia.
“Ya no hay ningún lugar seguro para las mujeres GRACIAS A LA POCA ÉTICA con la que fue desarrollada la INTELIGENCIA ARTIFICIAL”, fueron algunos de los comentarios.
Además, la situación preocupó a muchas mujeres e influencers, puesto que al momento las inteligencias artificiales no cuentan con regulaciones contra contenido de este tipo que pueda ser utilizado en su contra.
Pues resulta que internet es ahora MÁS INSEGURO gracias a la IA:
ESTÁN CREANDO NUDES DE MUJERES, AMIGAS, HERMANAS E INFLUENCERS pic.twitter.com/B6K3cJsxop
— Eri la nutria 🦦 la rompe 🍉 #gaming #games (@Erivlt) May 1, 2023
