“¿Alguna vez has soñado con la mejor novia de todos los tiempos? Ahora ella puede estar a tu alcance”, promete una de las plataformas que permite a usuarios crear “novias virtuales” a la medida.
Durante los últimos años, las herramientas de inteligencia artificial han tenido un alcance sin precedentes. Diferentes industrias buscan la forma de aplicar estas nuevas tecnologías en sus sistemas, optimizando procesos y atrayendo nuevos clientes. Por ejemplo, el auge de las “novias virtuales”.
Actualmente, muchas aplicaciones y sitios web venden la experiencia de tener una relación sentimental con un personaje ficticio, representado en forma de video o a través de un chatbot. Si bien esto puede ser la manera en la que algunos desean palear la soledad, existen riesgos emocionales y de seguridad implicados.
Preocupación por novias virtuales
Desde la Fundación Mozilla (sí, de Mozilla Firefox), advierten sobre los riesgos implicados en el uso de este tipo de plataformas.
Específicamente, revisaron la política de datos de páginas como Romantic AI, Replika AI, Chai AI, y Eva AI, algunas de las plataformas que permiten a los usuarios tener “una novia a la medida” para entablar relaciones de tipo sentimental.
Por un lado, explican, está el problema de los datos. La mayoría de estos sitios tienen grandes falencias cuando se trata de resguardar la integridad y seguridad de los datos proporcionados por los usuarios. Sin embargo, también salta a la luz el problema emocional y a nivel psicológico que conlleva relacionarse emocionalmente con un robot, especialmente en personas jóvenes o menores de edad.
Según explicaron desde la fundación, en tres aplicaciones investigadas solo tomó cinco clics y 15 segundos en promedio encontrar contenido perturbador, pornográfico o ilícito. Algunas incluso mostraban contenido delicado directamente en la página de inicio.
“Para ser totalmente franco, las novias y los novios de IA no son tus amigos. Aunque se comercializan como algo que mejorará tu salud mental y tu bienestar, se especializan en generar dependencia, soledad y toxicidad, al mismo tiempo que te extraen la mayor cantidad de datos posible”, advirtió Misha Rykov, investigadora de Mozilla.
Jen Caltrider, directora de la sección Privacy Not Included de Fundación Mozilla, plantea la posibilidad de que se den instancias de manipulación a través de estas herramientas. Esto, aludiendo a que nada impide que personas con malas intenciones diseñen este tipo de chatbots “románticos” y luego utilicen esa relación para manipular a los usuarios para que hagan cosas terribles, adopten ideologías extremas o se dañen a sí mismos o a otros.
“Es por eso que necesitamos desesperadamente más transparencia y control del usuario en estas aplicaciones de IA”, aseguró.
Cuida tus datos
“Hoy estamos en el salvaje oeste de los chatbots de relaciones con IA. Su crecimiento se está disparando y la cantidad de información personal que necesitan obtener para construir romances, amistades e interacciones sexys es enorme”, advirtió Caltrider.
Desde Mozilla, entregaron algunas recomendaciones para protegerse en relación con el uso de este tipo de inteligencia artificial.
No digas nada que contenga información confidencial durante tus conversaciones con tu “amigo/a” o “novio/a” de IA. Solicita que se eliminen tus datos cuando dejes de usar la aplicación. No otorgues tu consentimiento para el seguimiento constante de geolocalización por parte de la aplicación. Utiliza una contraseña segura. No utilices complementos de redes sociales. Utiliza los controles de privacidad de tu dispositivo para limitar el acceso a tu cámara, micrófono, imágenes y vídeos. Actualiza la aplicación con regularidad. Limita el seguimiento de anuncios a través de tu dispositivo. Si puedes hacerlo, no aceptes el seguimiento de tus datos cuando estés realizando el proceso de registro.
