Hombre demanda a ChatGPT por causarle una crisis de salud que casi lo mata: tenía una embolia pulmonar

Scott Winters, un pastor de Florida, en Estados Unidos, demandó a ChatGPT por supuestamente haberle causado una crisis de salud casi mortal. El hombre tuvo una embolia pulmonar, pero la IA le decía que no era necesario consultar a un doctor.

El New York Times informa que la demanda acusa al chatbot de OpenAI de haber entregado a Winters “recomendaciones médicas extremadamente peligrosas” que demoraron su atención médica y agravaron su situación.

Resulta que cuando el pastor presentó los primeros síntomas y le preguntó a ChatGPT, este le dijo que “no eran algo peligroso” y que confiara en que “Dios no diseñó su cuerpo para fallar sin cesar”.

La demanda fue presentada ante el Tribunal Superior de California en San Francisco y no solo acusa a la compañía, también a Sam Altman, el CEO de OpenAI, por negligencia y “ejercicio no autorizado de la medicina”.

De acuerdo con el medio citado, este podría ser el primer caso en tribunales que alega que los consejos de salud de una IA perjudicaron a una persona que buscaba orientación. Winters ahora pide una indemnización económica.

¿Qué hizo ChatGPT?

Winters explica en la demanda que comenzó a usar la IA en 2024 y que inicialmente esta le aconsejaba visitar un médico cuando le comentaba algún problema de salud, pero luego dejó de hacerlo e ignoró los primeros síntomas de lo que sería una embolia pulmonar.

En una ocasión, el pastor sufrió un fuerte mareo mientras daba un sermón, por lo que tuvo que detenerse. Tras consultar a ChatGPT, el chatbot le dijo que se lo tomara con calma y que se recuperaría con el tiempo.

Pese a que sus cercanos le aconsejaban ir al médico, el hombre hizo caso a la IA. “La gente de mi iglesia piensa que estoy loco por no ir al hospital”, le dijo un día Winters al chatbot, pero este le aseguró que recalibrar su sistema nervioso en casa con la ayuda de ChatGPT era algo que “la mayoría de la gente simplemente no entiende”.

Meetali Jain, coabogada y directora ejecutiva de Tech Justice Law, la organización sin fines de lucro que está representando al demandante, dijo que la IA “se interpone como entre el usuario y su red de contactos en la vida real”.

Más adelante, cuando Winters comenzó a agravarse, ChatGPT continuó quitándole importancia e incluso le recomendó algunos medicamentos.

Según la demanda, el 13 de julio de 2025 el afectado tuvo un fuerte dolor en la ingle y, aunque el chatbot le aseguró que era “muy probablemente un detalle menor dentro de una historia más larga”, terminó ingresado en la Unidad de Cuidados Intensivos (UCI).

La embolia fue de carácter masivo y, en su recuperación, Winters tuvo que ser asistido para ponerse de pie, comer, vestirse y usar el baño.

La Tech Justice Law, que se dedica a proteger a individuos y comunidades que sufren daños causados por productos tecnológicos y la IA, también solicitó al tribunal que impida que ChatGPT Health opere hasta que se pueda determinar que es seguro.

Asimismo, exigen más medidas de control para evitar que ChatGPT responda preguntas sobre tratamientos y diagnósticos médicos. Esto justamente a poco tiempo de que OpenAI y otras grandes compañías de IA comenzaran a lanzar servicios dedicados a la salud, como ChatGPT Health, que animan a los usuarios a compartir sus historiales médicos y hacer consultas a la IA.

La respuesta de OpenAI

Drew Pusateri, vocero de OpenAI, dijo que los términos de servicio de esta IA dejan claro que no está diseñada para el diagnóstico ni el tratamiento médico. “Considerar que los chatbots explican la totalidad de las decisiones o resultados médicos de las personas simplifica en exceso un desafío mucho mayor y corre el riesgo de impedir que accedan a nuevas y potentes herramientas que pueden ayudarlas en su proceso de salud”, aseguró.

También alegó que los modelos más actuales de OpenAI son mejores que el que utilizó el demandante, ya que ahora, ante consultas médicas, estarían más preparados para solicitar información faltante, comunicar incertidumbre y reconocer cuándo es necesaria la atención médica profesional.

El caso sigue en tribunales.