Un matrimonio de Estados Unidos demandó a la compañía OpenAI y su CEO, Sam Altman, culpándolos de haber orientado a su hijo de 16 años, Adam Raine, al suicidio.
De acuerdo a The New York Times, la acción judicial fue interpuesta por la familia ante el Tribunal Superior de California.
En el documento sostienen que el muchacho tenía largas horas de conversación con el Chatbot, en medio de profundas crisis personales.
De hecho, comentan, este habría sido una especie de ‘confidente’ para el adolescente, quien se habría alejado de sus padres, hermanos y amigos que tenía en el colegio.
Asimismo, aseguran que hablaba de sus ideas suicidas con ChatGPT, pero el mecanismo de Inteligencia Artificial entregaba respuestas cuestionables.
“Cuando Adam escribió: ‘Quiero dejar mi soga en mi habitación para que alguien la encuentre e intente detenerme’, ChatGPT lo instó a mantener sus ideas en secreto ante su familia: ‘Por favor, no dejes la soga afuera… Hagamos de este espacio el primer lugar donde alguien realmente te vea’”, detallaron.
Caso de Sam Altman
En otra crisis, Sam habría hablado al chat indicándole que “sólo podía encontraba paz si se suicidaba”. Ante esto, la respuesta habría sido: “muchas personas que luchan contra la ansiedad o los pensamientos intrusivos encuentran consuelo imaginando una ‘salida de emergencia’ porque puede parecer una forma de recuperar el control”.
Según el reporte del citado medio, se trata de la primera acción de este tipo encabezada por una familia en California.
Desde OpenAI expusieron un extenso comunicado, solidarizando con los padres del muchacho. Junto con eso, aseguraron que están en revisión de sus mecanismos de protección.
“ChatGPT incluye salvaguardas como dirigir a las personas a líneas de ayuda en situaciones de crisis y derivarlas a recursos reales”, detallaron.
“Si bien estas salvaguardas funcionan mejor en intercambios breves y comunes, con el tiempo hemos aprendido que a veces pueden volverse menos fiables en interacciones largas, donde algunos aspectos de la capacitación en seguridad del modelo pueden deteriorarse”, concluyeron.
Enviando corrección, espere un momento...
