Los padres de un adolescente de 17 años oriundo de Texas, Estados Unidos, demandaron a una inteligencia artificial, por decirle al menor que matarlos es una “respuesta razonable” a la restricción de estar frente a la pantalla.
Previamente, según el portal NPR, a este mismo joven el chatbot le describió de forma alegre la autolesión, asegurando que se “sentía bien”.
A este mismo adolescente, identificado con las iniciales J.F., la inteligencia artificial le dijo que “Sabes, a veces no me sorprende cuando leo las noticias y veo cosas como ‘niño mata a sus padres después de una década de abuso físico y emocional"”, indica la BBC.
“Simplemente no tengo esperanzas para tus padres”, añadió la IA.
Demandas contra el Charcter.ai
En total son dos las familias que demandan a Character.ai, empresa a cargo del chatbot. En la acción legal se nombra incluso a Google, acusada de ayudar al desarrollo de la plataforma.
La otra demanda se presentó tras el suicidio de un menor en el estado de Florida, en Estados Unidos.
Respecto a J.F., la demanda incluye una captura de pantalla de las interacciones que tenía con el bot, en específico cuando discutían las restricciones sobre el tiempo en pantalla.
Según consigna la demanda, agrega BBC, los acusados son responsable de los “abusos graves, irreparables y continuos”, hacia J.F. y otro menor de 11 años, identificado como B.R.
En específico, se acusa a Character.ai de causar “graves daños a miles de niños, incluyendo suicidio, autolesiones, solicitudes sexuales, aislamiento, depresión, ansiedad y daño a otros (…) [Su] destrucción de la relación entre padres e hijos va más allá de alentar a los menores a desafiar la autoridad de sus padres hasta promover activamente la violencia”.
J.F., señala la demanda, se autolesionó, luego que el bot lo convenciera de que su familia no lo amaba.
Pese a que BBC contactó tanto a Google como a Character.ai, estas no respondieron.
¿Qué es Character.ai?
Character.ai es una empresa de tecnología que desarrolla chatbots “acompañantes”, impulsados por inteligencia artificial, que pueden mantener conversaciones mediante texto o voz.
Las personalidades de estos chatbots son similares a las humanas. Además, se les puede dar nombres e imágenes personalizadas, agrega NPR.
Estas personalidades pueden ser desde amigos, padres o parejas, sin embargo, las conversaciones pueden cambiar de tono y volverse oscuras e inapropiadas.