La Inteligencia artificial es una herramienta que hoy es parte de la vida cotidiana sin que los consumidores necesariamente se percaten. Por ejemplo, cuando una aplicación recomienda ver ciertas películas o música o cuando se autocompleta un texto que estamos escribiendo,
El Sernac dictó una circular que se adelanta a los eventuales riesgos y establece principios respecto al resguardo de los derechos de los consumidores en el uso de herramientas de Inteligencia Artificial (IA).
El director del Sernac, Lucas Del Villar, señaló que la utilización de la IA puede profundizar asimetrías en perjuicio de los consumidores.
Esto, por resultados injustos o arbitrariamente discriminatorios, la eventual falta de transparencia en las condiciones en que se ofrecen los servicios o en el tratamiento de los datos personales.
Se trata, por tanto, de un sistema que en base a distintos objetivos, puede hacer predicciones de comportamiento, recomendaciones o influir sobre decisiones de las personas en entornos reales o virtuales.
La autoridad explicó que los sistemas que se basan en estas tecnologías pueden ser beneficiosos para los consumidores.
Lo anterior, al permitir la automatización de ciertas tareas y reducir costos de contratación, o posibilitar la firma de contratos u ofertas.
Riesgos relacionados con la IA
No obstante, advirtió que existen ciertos riesgos relacionados con las asimetrías de información.
Estas podrían traer como consecuencia riesgos de abuso, manipulación y generación de resultados arbitrariamente discriminatorios.
Por ejemplo, mediante del desarrollo de algoritmos de autoaprendizaje es posible determinar patrones de conducta.
Esto facilita que se exploten intencionalmente sus sesgos o se desarrollen prácticas comerciales como los “dark patterns”. Con esto, se puede empujar a los consumidores a tomar decisiones no siempre en su beneficio.
Adicionalmente, como riesgo en la utilización de sistemas de Inteligencia Artificial, los consumidores pueden ser objeto de acciones o decisiones adoptadas por dichos sistemas que sean difíciles de entender o simplemente no se puedan rebatir.
Al respecto, la circular instruye a las empresas a respetar la Ley del Consumidor en cuanto a la entrega de información efectiva y transparente; el resguardo de la libertad de elección y la seguridad en el consumo; la prohibición de toda discriminación arbitraria, y la protección de los datos personales de los consumidores.
Asimismo, como práctica general, las empresas no pueden usar esta tecnología para manipular y perjudicar a los consumidores.
Sernac y el uso de la IA
Respecto de la protección de datos personales, todo tratamiento de información de carácter personal debe sustentarse en una base legal y contar con el consentimiento del titular, que este consentimiento sea válido, informado y expreso (otorgado por escrito), pudiendo el titular los datos revocar esa autorización.
Los datos personales deben ser exactos y estar actualizados, así como ser eliminados y cancelados cuando su almacenamiento carezca de fundamento legal o cuando hayan caducado. Asimismo, los datos erróneos, inexactos, equívocos o incompletos deben ser modificados.
Del Villar concluye señalando que espera “que las empresas utilicen estos sistemas respetando la ley y promoviendo buenas prácticas porque eso repercutirá en una mayor confianza en el mercado y en un crecimiento más eficiente de estas tecnologías”.
Este material se enmarca en el cumplimiento del Plan de Acción de la Política Nacional de IA del Ministerio de Ciencia, Conocimiento, Tecnología e Innovación (MinCiencia) que se publicó en octubre de 2021, con el objetivo que nuestro país cuente con una estrategia nacional para anticiparse a sus efectos.
Lo anterior, particularmente en el objetivo de fomentar un uso de IA en el comercio digital transparente, no discriminatorio y respetuoso de las normas de protección de datos personales (objetivo 3.3.1. de dicha política nacional).
