Grok, el modelo de IA integrado en la red social X, de propiedad de Elon Musk, se encuentra en el ojo de la polémica, luego de que denunciaran que la herramienta de inteligencia artificial puede “quitar la ropa” a mujeres en imágenes.
El caso que detonó la tendencia tuvo como protagonista a Beth Eleanor, influencer literaria y escritora emergente británica, según detalla El País, de España, a finales de diciembre, luego de publicar en X una fotografía suya de espaldas, en una biblioteca, que se convirtió en meme.
Polémica: Grok edita fotos de mujeres con poca ropa
Resulta que un día después del posteo, un usuario con más de 100 mil seguidores citó la imagen y le pidió explícitamente a Grok que cambiara su ropa por un bikini. La IA cumplió la orden y en cuestión de horas, el experimento se viralizó y miles de usuarios comenzaron a replicar la práctica con imágenes de mujeres que simplemente compartían fotos cotidianas, añade el citado medio.
Ante esto, miles de usuarios comenzaron a denunciar la práctica, pero las respuestas automatizadas de X señalaban que las imágenes no infringían las normas de la plataforma. Incluso la propia IA justificó el resultado aludiendo a la legalidad de los “usos transformadores” y no comerciales de imágenes.
El País ejemplificó el caso de Paula Fraga, una abogada española que vio cómo una foto suya se transformó en una cascada de imágenes sexualizadas. “Es violencia sexual y genera muchísimo malestar”, afirmó. La reacción del propio Musk, que bromeó generando una imagen suya en bikini, contribuye a “normalizar y banalizar una situación profundamente dañina”, añadió la afectada.
Acciones gubernamentales contra IA de X
Gobiernos como el francés, anunciaron la presentación de una denuncia contra Grok por crear y difundir contenidos “sexistas y sexuales” sin consentimiento, y pidió a la Autoridad de Regulación de la Comunicación Audiovisual y Digital que investigue un posible incumplimiento del Reglamento de Servicios Digitales de la UE.
Por otro lado, en el Reino Unido, según la BBC, el Ministerio del Interior busca avanzar en legislar para prohibir herramientas de “nudificación”, mientras que Ofcom, el organismo regulador independiente del Reino Unido para las comunicaciones, recordó que los deepfakes sexuales son ilegales y que las plataformas deben reducir activamente su difusión.
Clare McGlynn, profesora de Derecho en la Universidad de Durham, sostuvo en el medio británico, que X y Grok podrían prevenir estos abusos “si quisieran”, pero actúan como si gozaran de impunidad.
Enviando corrección, espere un momento...
