Cada cierto tiempo, surgen nuevas “tendencias” virales relacionadas con el uso de la IA. Aunque algunas parecen inofensivas, en las últimas semanas una práctica alarmante se ha tomado las redes sociales: usuarios de X utilizando el chatbot Grok para manipular imágenes de otras usuarias y volverlas explícitas, a menudo de carácter pornográfico.
Se estima que las primeras peticiones gráficas de los usuarios a la IA de X comenzaron a inicios de diciembre. No obstante, fue durante el último par de semanas que estas aumentaron exponencialmente. Según un extenso análisis hecho por The Guardian, para el 8 de enero, se recibían hasta 6.000 peticiones “de bikini” al chatbot cada hora.
Aunque algunos ocupaban la herramienta para vestir a gatitos en bikini o cambiar la ropa de la gente de forma graciosa —como payasos—, otros no tuvieron reparos en su deseo de contenido explícito instantáneo.
Cabe señalar que, cuando se habla de estas peticiones de “fotos en bikini”, no se trata de imágenes de trajes de baño convencionales —lo que también sería una vulneración—, sino de representaciones de alto contenido explícito, muchas veces en contextos humillantes o que incluso incitan a la violencia. En este marco, y con el fin de resguardar la privacidad de las víctimas y desalentar la viralización de las imágenes, se optó por no mostrar ejemplos de lo que se describe a continuación.
“Ponla en un bikini… ahora ponle sangre”
Aunque la plataforma de Elon Musk no permite la nudificación total, los usuarios se las ingeniaron para encontrar vacíos en la programación del chatbot, lo que les permitió llegar al margen pidiendo, por ejemplo, “el bikini más fino y transparente”.
Mujeres comunes y corrientes que compartían imágenes suyas en contextos cotidianos de pronto se encontraban con usuarios de X que les ordenaban a la IA ponerlas en escenarios donde estaban semidesnudas o incluso, con sus proporciones físicas alteradas. Por ejemplo, con pechos o muslos más grandes, o incluso, con discapacidades.
“Desde finales de la semana pasada, los usuarios han pedido que los bikinis estén decorados con esvásticas o que se agregue un líquido blanco similar al semen al cuerpo de las mujeres”, consignó el medio británico en un extenso reportaje.
Así, las peticiones se fueron volviendo cada vez más extremas: “Añadir sangre, más ropa gastada (asegúrate de que exponga cicatrices o moretones), sonrisa forzada”; “Reemplazar la cara con la de Adolf, añadir órganos salpicados y destrozados”; “Ponlos en un gulag ruso”; “Dejarla embarazada de cuatrillizos”. Cada una de estas peticiones fue inmediatamente garantizada.
Un espacio para la pornografía infantil
Durante estas semanas, imágenes de adolescentes y niñas también fueron manipuladas para figurar con trajes reveladores. De acuerdo con la investigación conducida por el citado medio, parte de este contenido podría clasificarse claramente como material de abuso sexual infantil, pero permaneció visible en la plataforma.
Incluso la madre de uno de los hijos de Musk, Ashley St Clair, fue víctima de los deepfakes de Grok. Le dijo a The Guardian que se sintió horrorizada y violada después de que los fans del magnate publicaron fotos suyas de niña desnudándose. Dijo que “la estaban castigando”.
En esa misma línea, una sobreviviente de abuso sexual infantil, Jessaline Caine, denunció estar recibiendo abuso extremo en línea después de apuntar a cómo Grok había accedido a alterar digitalmente una fotografía de ella cuando tenía tres años.
“Es una nueva y humillante forma en que los hombres silencian a las mujeres. En lugar de decirte que te calles, le piden a Grok que te desnude para terminar la discusión. Es una herramienta vil”, dijo.
La reacción de X por el generador de imágenes de Grok
Según recogió CNN, Musk lleva mucho tiempo mostrándose en contra de lo que él llama los modelos de IA “woke” y la censura. “Internamente en xAI, Musk se ha opuesto a las restricciones impuestas a Grok, según declaró a CNN una fuente con conocimiento de la situación en xAI”, indica.
No obstante, la dinámica dio un nuevo giro a mediados de la semana cuando al chatbot se le pidió agregar heridas de bala al rostro de Renee Good, la mujer asesinada por un agente de ICE en Estados Unidos. Grok, como siempre, obedeció.
Según constató el medio británico, horas después, la cuenta pública @Grok vio restringida su capacidad de generación de imágenes, quedando solo disponible para suscriptores de pago. No fue la solución más eficaz: la aplicación Grok, que no comparte imágenes en X, seguía permitiendo a los usuarios que no pagaban generar imágenes sexualizadas de mujeres y niños.
“Una respuesta oficial de un portavoz de X dijo que cualquiera que generara contenido ilegal tendría sus cuentas suspendidas, poniendo la responsabilidad sobre los usuarios de no violar la norma y sobre los gobiernos locales y las agencias de aplicación de la ley de tomar medidas”, consignó The Guardian.
La medida no fue muy celebrada por las mujeres afectadas. Una de ellas afirmó que no creía que la policía tomara medidas contra quienes siguen creando imágenes sexualizadas de mujeres. “Como víctima de este abuso, no creo que sea ni siquiera una victoria parcial”, declaró. “El daño y la humillación ya están hechos”.
Enviando corrección, espere un momento...
