Mira una foto, tómate un descanso y tiempo después vuelve a verla. Si en el intertanto alguien la modifica con inteligencia artificial, lo más probable es que luego recuerdes la versión modificada y jures que es la original.
Las imágenes y los resúmenes generados con inteligencia artificial son capaces de distorsionar la memoria de las personas, informa Gizmodo, medio especializado en tecnología. El sitio se basa en declaraciones que la científica Pattie Maes, del MIT, dio al diario The Washington Post sobre el trabajo de su equipo.
El experimento: las mismas fotos pero recuerdos distintos
El experimento es sencillo. Los participantes vieron una serie de fotografías. Tras una pausa, a algunos les mostraron exactamente las mismas imágenes, mientras que a otros, versiones modificadas por IA.
Más tarde llegó la prueba de memoria. Quienes habían visto las imágenes alteradas se equivocaron más al recordar la foto original. Y hay un segundo hallazgo, quizá más inquietante, porque además mostraron exceso de confianza en esos recuerdos falsos. No sólo recordaban mal, sino que lo hacían con seguridad.
Es como si el cerebro archivara la versión más nueva con un sello de autenticidad, y cuando uno está convencido, difícilmente se detiene a dudar.
Una memoria fácil de sugestionar
Que la memoria humana es poco fiable no es algo nuevo. Gizmodo nos recuerda que la psicología lo documenta en experimentos que se remontan al siglo XIX, y que se la considera caprichosa y muy abierta a la sugestión, es decir, a que otros nos metan ideas en la cabeza sin que lo notemos.
Por eso la desinformación es tan dañina. El medio apunta que algunos estudios muestran que sigue influyendo en las decisiones de las personas, incluidas las políticas, incluso después de que se publican las correcciones. Desmentir algo no siempre borra la huella que dejó.
La inteligencia artificial, añade, vuelve ese panorama aún más frágil. El contenido de baja calidad fabricado con IA, que algunos llaman slop (algo así como "basura digital"), es cada vez más convincente y está muy extendido en internet. Además, ha impulsado una nueva oleada de fraudes y desinformación.
El trabajo de Maes no es el único. Según Gizmodo, numerosos estudios muestran que estas piezas falsas logran plantar recuerdos falsos en los participantes y cambiar lo que éstos dan por verdadero. Un estudio publicado el año pasado halló que tanto los deepfakes (videos o imágenes falsificados con IA que parecen reales) como los textos generados por IA instalaron con eficacia recuerdos de escándalos políticos totalmente inventados. En algunos casos, incluso redujeron la intención de voto.
Cuando el error viene sin mala intención
No hace falta un villano para que esto ocurra. Gizmodo advierte que la IA generativa, la que produce textos, imágenes o audio nuevos, tiende a cometer errores en sus resultados, conocidos como alucinaciones. Es decir, entrega con toda seguridad información que simplemente no es cierta.
Mientras tanto, gobiernos, bancos, fuerzas armadas, hospitales y una lista creciente de organizaciones se apuran en incorporar esta tecnología. En ese contexto, según el medio, es habitual oír que lo importante es mantener a "humanos en el circuito". La idea es que una persona, a menudo un profesional veterano con experiencia en el tema, revise lo que produce el sistema.
La lógica es que la IA acelere todo, desde ataques militares hasta el registro de datos, mientras el supervisor atrapa los errores antes de que se conviertan en acciones con consecuencias reales.
El problema es que, según la investigación que cita Gizmodo, las personas no somos buenas detectando esas alucinaciones. Y si a eso se suma una memoria llena de grietas y la tendencia a creerle a las máquinas, el experto puede ver su criterio distorsionado, incluso cuando lo que dice la IA contradice algo que él sabe que es (o no es) cierto.
Dicho de otro modo, el guardia de seguridad también puede terminar convencido por el intruso.
¿Hay salida?
Quizás, aunque aún no existe una solución a prueba de fallos. Hoy, afirma el medio, la capacidad de una persona promedio para reconocer si un contenido fue creado por IA equivale a lanzar una moneda al aire, según distintos estudios.
Hay investigadores trabajando en intervenciones y métodos de entrenamiento para que los humanos mejoren al detectar deepfakes. Pero, mientras los expertos buscan una fórmula, la industria de la IA avanza en la dirección contraria. Según Gizmodo, desarrolla sistemas "agénticos", capaces de actuar por su cuenta, con la esperanza de volverlos totalmente autónomos y sacar a los humanos del circuito.
Esa brecha ya tuvo consecuencias graves. Gizmodo recuerda que, a comienzos de este año, un ataque militar estadounidense contra una escuela primaria en Irán mató a más de 150 personas, entre ellas al menos 123 niños.
Lee también...
Jueves 01 Enero, 1970 | 00:00
Una investigación interna del Departamento de Defensa de Estados Unidos, que Bloomberg reportó el mes pasado, concluyó que el ataque se debió en parte a una confianza excesiva en un sistema de IA desarrollado por Palantir. Ese sistema recomendó la escuela como objetivo del primer día por tener datos desactualizados.
La pregunta que queda abierta es quién vigila al vigilante cuando su recuerdo también fue editado.
¿Cómo hicimos esta nota?
Esta nota fue redactada con la inteligencia artificial de Claude (Anthropic). El periodista investigó preliminarmente, seleccionó las fuentes y las entregó a Claude para su redacción usando como referencia el estilo de escritura del autor. Luego el periodista revisó la nota, realizó ediciones y verificó sus fuentes, las verificó de nuevo, las volvió a verificar por las dudas y… que Dios nos ampare.
Enviando corrección, espere un momento...
