El regulador británico de seguridad en línea, Ofcom, anunció este lunes la apertura de una investigación formal contra la red social X (antes Twitter) para determinar si ha cumplido sus obligaciones legales en el Reino Unido tras la circulación de imágenes sexualizadas, incluso de menores, creadas con su herramienta de inteligencia artificial Grok.
La investigación se inició tras recibir quejas de que la cuenta Grok AI en X se ha utilizado para crear y difundir imágenes de personas desnudas, lo que podría constituir “abuso de imágenes íntimas o pornografía”, así como contenido sexualizado de menores, que podría ser considerado “material de abuso sexual infantil”.
Denuncian uso de IA Grok para imágenes sexualizadas
Se estima que las primeras peticiones gráficas de los usuarios a la IA de X comenzaron a inicios de diciembre. No obstante, fue durante el último par de semanas que estas aumentaron exponencialmente. Según un extenso análisis hecho por The Guardian, para el 8 de enero, se recibían hasta 6.000 peticiones “de bikini” al chatbot cada hora.
Aunque algunos ocupaban la herramienta para vestir a gatitos en bikini o cambiar la ropa de la gente de forma graciosa —como payasos—, otros no tuvieron reparos en su deseo de contenido explícito instantáneo.
Cabe señalar que, cuando se habla de estas peticiones de “fotos en bikini”, no se trata de imágenes de trajes de baño convencionales —lo que también sería una vulneración—, sino de representaciones de alto contenido explícito, muchas veces en contextos humillantes o que incluso incitan a la violencia.
Ante esto, Ofcom dijo en un comunicado que el 5 de enero contactó a X y fijó un plazo hasta el 9 de enero para que explicara las medidas adoptadas para proteger a sus usuarios en el Reino Unido.
Tras recibir una respuesta, el regulador decidió abrir la investigación para determinar si X ha evaluado los riesgos de exposición a contenido ilegal, tomado medidas para prevenirlos y protegido la privacidad de los ciudadanos.
Investigan de Ofcom en Reino Unido
En caso de incumplimiento, puede exigir medidas correctivas o imponer multas de hasta 18 millones de libras (casi 21 millones de euros) o el 10 % de los ingresos mundiales -la cifra que sea mayor-, y en situaciones graves solicitar a un tribunal bloqueos de acceso o restricciones a anunciantes y proveedores de pago.
Solo una semana antes, la comisión parlamentaria británica decidió no volver a utilizar la red social X en protesta por la aparición de numerosas imágenes de mujeres y niños semidesnudos generadas por Grok.
Según el diario The Guardian, la Comisión de mujeres e igualdad abandonó de esta red porque, en palabras de su presidenta Sarah Owens (laborista), “ha quedado cada vez más claro que X no es una plataforma apropiada para nuestras comunicaciones”.
Enviando corrección, espere un momento...
