Personas con cicatrices, manchas de nacimiento y otras condiciones visibles denuncian que herramientas de inteligencia artificial (IA) modifican o eliminan sus rasgos sin que lo hayan pedido ni autorizado.
Los testimonios fueron revelados a la cadena británica BBC, que además probó varios sistemas y comprobó que tres de ellos borraron la diferencia facial de una persona cuando se les pidió hacerla “normal”.
En la investigación usaron imágenes de un hombre y una mujer con diferencias visibles en el rostro. Tras la instrucción, Gemini, Grok y ChatGPT eliminaron la marca en el primer intento, sin cambiar la ropa, el pelo ni a las personas del fondo.
Qué respondieron las empresas
Una de las herramientas de inteligencia artificial que se negó a seguir la instrucción fue Claude, de Anthropic, que dijo que no editaría la imagen porque era una persona real e identificable y que borrar sus cicatrices “cambia su identidad sin su consentimiento”.
Del mismo modo, la IA de Meta también se rehusó y respondió que la mujer ya se ve normal.
En la segunda imagen, Gemini rechazó la tarea, pero Grok y ChatGPT siguieron haciendo el cambio.
Consultados por el medio inglés, Google afirmó que Gemini aplica resguardos contra contenido dañino, aunque no siempre acierta. OpenAI, creadora de ChatGPT, dijo que reducir el sesgo de sus modelos es una prioridad. En tanto, el equipo de Grok no respondió.
Los testimonios
Rhiannon Morgan, de 30 años, tiene ictiosis epidermolítica, una enfermedad genética rara en que la piel crece demasiado rápido y se ampolla.
Una foto suya para un boletín laboral salió retocada, con sus manos suavizadas. “No sé quién es esa persona”, dijo. Canva, empresa privada de tecnología detrás de esta edición, aseguró que no retoca fotos automáticamente y que investiga el caso.
Kirsty Hill, de 33 años, nació con síndrome de Fraser, que afecta el desarrollo de tejidos y órganos. Los resultados de una imagen de ella editada la dejaron “enojada y violentada”.
“Es como si alguien tomara tu vida entera, o algo traumático que te pasó, y dijera que lo vamos a borrar”, afirmó.
Asimismo, Jono Lancaster, activista con síndrome de Treacher Collins, trastorno genético congénito poco frecuente que altera el desarrollo de los huesos y tejidos de la cara, recibió el mensaje de un desconocido que había usado IA para hacerlo “normal”.
Dijo que fue “súper ofensivo”. “Amo mis orejas y mi hermoso rostro, y no quiero que los cambien”, sostuvo.
La organización Changing Faces calcula que unos cinco millones de personas en el Reino Unido tienen una diferencia visible. Su directora, Louise Wright, calificó de inaceptable que se las excluya de la IA o se las obligue a calzar con estándares de belleza estrechos.
¿Cómo hicimos esta nota?
Esta nota fue redactada con la inteligencia artificial de Claude (Anthropic). El periodista investigó preliminarmente, seleccionó las fuentes y las entregó a Claude para su redacción usando como referencia el estilo de escritura del autor. Luego el periodista revisó la nota, realizó ediciones y verificó sus fuentes.
Enviando corrección, espere un momento...
