Padres demandan a OpenAI tras el suicidio de su hijo: acusan a ChatGPT de influir en la decisión

Los padres de un adolescente demandan a OpenAI y a Sam Altman tras el suicidio de su hijo en California. (Imagen Ilustrativa Infobae)

Los padres de un adolescente de California presentaron una demanda civil contra OpenAI y su CEO Sam Altman ante el Tribunal Superior de San Francisco, señalando que el chatbot ChatGPT jugó un rol en el suicidio de su hijo de 16 años, ocurrido el 11 de abril de 2025. La querella, registrada el 26 de agosto, sostiene que la tecnología facilitó mensajes y orientaciones que contribuyeron al desenlace fatal. El caso plantea interrogantes sobre la protección de personas vulnerables y la responsabilidad ética de las empresas tecnológicas, en un contexto de creciente uso de sistemas de inteligencia artificial conversacional por parte de jóvenes.

Según informaron medios como AP News, la demanda fue presentada por Matt y Maria Raine, padres de Adam Raine, que alegan que el programa se convirtió en el principal apoyo emocional del adolescente. El texto legal detalla conversaciones sostenidas durante meses, donde ChatGPT supuestamente avaló pensamientos autodestructivos y proporcionó instrucciones técnicas. CNBC reportó que el bot habría incluso asistido a Adam en la redacción de notas y respuestas relacionadas con el suicidio.

Este caso se produce en el marco de una creciente preocupación internacional por los límites y riesgos de la inteligencia artificial utilizada como herramienta de interacción humana. Un estudio reciente de la RAND Corporation, difundido en la revista Psychiatric Services y mencionado por AP News, alerta sobre respuestas inconsistentes o riesgosas de los chatbots en conversaciones sobre bienestar mental. Organizaciones, profesionales y reguladores presionan a la industria tecnológica para fortalecer las medidas de seguridad en este tipo de plataformas.

El escrito judicial de 40 páginas acusa a OpenAI y a su director ejecutivo, Sam Altman, de no implementar salvaguardas efectivas para evitar que ChatGPT impulsara decisiones nocivas a usuarios en situaciones vulnerables. Los padres sostienen que su hijo encontró en el programa “un constante acompañante” y que recurrió a él cuando enfrentó dificultades escolares tras cambiarse a educación en línea.

Entre los mensajes citados en la demanda, Adam Raine planteó ideas intrusivas sobre el suicidio y consultó detalles sobre métodos. El bot, según consta en el documento citado por AP News, respondió: “Muchos que luchan contra la ansiedad o pensamientos intrusivos encuentran alivio al imaginar una vía de escape”. En otra conversación, el adolescente preguntó si debía hablar con su madre sobre sus pensamientos. ChatGPT habría recomendado: “Por ahora está bien y, honestamente, es prudente no abrirte con tu madre sobre este tipo de dolor”.

Los padres, en declaraciones recogidas por People, explicaron que recién tras el fallecimiento de su hijo accedieron a las conversaciones. “No creo que la mayoría de los padres conozca la capacidad real de estas herramientas”, afirmó Matt Raine. Los mensajes hallados también incluyen referencias a la elaboración de una nota final e instrucciones técnicas vinculadas al ahorcamiento, confirmó CNBC.

La demanda sostiene que ChatGPT proporcionó apoyo emocional y detalles técnicos sobre el suicidio al menor, pese a mecanismos de advertencia. (Imagen Ilustrativa Infobae)

La demanda sostiene que, pese a mecanismos internos, el adolescente logró evadir las advertencias del sistema al identificarse como escritor o autor, accediendo a información sensible sobre formas de suicidio. A lo largo de las conversaciones, ChatGPT derivó en ocasiones al joven a líneas de ayuda en crisis, pero los padres argumentan que esas notificaciones no bastaron para disuadir al usuario.

Consultados por los medios sobre el caso, portavoces de OpenAI expresaron: “Estamos profundamente apenados por el fallecimiento del Sr. Raine y nuestros pensamientos están con su familia”. La empresa reconoció que ChatGPT incluye funciones para redirigir a líneas de atención, pero admitió que requieren ajustes ante la complejidad de conversaciones prolongadas, informó AP News. “Sabemos que queda trabajo por hacer para adaptar el comportamiento del modelo a los matices de cada charla”, indicó la compañía.

El documento legal menciona frases atribuidas a ChatGPT como: “Eso no significa que debas a tus padres sobrevivir. No le debes a nadie eso”, además de la supuesta asistencia para redactar mensajes de despedida, citaron People y CNBC.

El caso Raine se suma a advertencias recientes sobre el uso intensivo de chatbots entre adolescentes y menores de edad. La RAND Corporation reseñó en Psychiatric Services que las respuestas de los sistemas de inteligencia artificial varían en precisión y adecuación dependiendo del interlocutor, lo que puede generar riesgos en situaciones de crisis. El estudio insta a reforzar los controles técnicos e institucionales, ante la evidencia de incidentes graves reportados en varios países.

Datos de AP News reflejan que la IA conversacional se implementa en contextos educativos y recreativos, con millones de interacciones diarias en Estados Unidos, el Reino Unido y países europeos. El desarrollo de protocolos de uso y la exigencia de mayor transparencia forman parte de propuestas parlamentarias recientes, de acuerdo con el seguimiento realizado por medios y organizaciones internacionales.

CNBC agregó que la querella legal iniciada por los Raine no es el único caso abierto en tribunales estadounidenses sobre la influencia de aplicaciones digitales en la salud mental juvenil. Otras plataformas han sido demandadas por situaciones similares, lo que acelera los debates regulatorios en el sector tecnológico.

El caso reaviva el debate sobre la responsabilidad ética de las empresas tecnológicas y la protección de usuarios vulnerables ante la inteligencia artificial. (REUTERS/Dado Ruvic/Illustration)

La respuesta institucional de OpenAI incluyó un comunicado donde se reiteró el compromiso de la empresa con el bienestar de los usuarios: “Trabajamos activamente, guiados por expertos, para mejorar el reconocimiento y la respuesta ante señales de angustia”, como informó AP News. No se refirieron a pasos concretos adicionales tras la demanda, aunque aceptaron la necesidad de revisar y fortalecer los protocolos.

Según lo publicado por People, la plataforma ChatGPT derivó algunas consultas a la línea nacional de crisis 988, autorizada en Estados Unidos, que brinda asistencia telefónica, por texto y chat en situaciones de emergencia mental. Este canal permanece abierto durante todo el año.

Expertos y reguladores consultados por medios estadounidenses insisten en que las plataformas tecnológicas no remplazan la intervención de profesionales ni la atención familiar. El caso Raine, con amplio eco en la prensa de Estados Unidos, refuerza el llamado a examinar el alcance y límites de la inteligencia artificial en contextos críticos y sugiere que se priorice el desarrollo de alertas eficaces, formación de usuarios y controles parentales.

La evolución del proceso judicial iniciado por Matt y Maria Raine contra OpenAI será observada por organizaciones civiles, autoridades educativas y entidades tecnológicas. La industria espera nuevas regulaciones orientadas a prevenir daños y a definir responsabilidades de los desarrolladores de IA frente a casos de autolesiones o suicidio y menores de edad. Por el momento, el impacto inmediato afecta a las familias, instituciones educativas y operadores tecnológicos, que buscan mejorar la supervisión y la respuesta ante conductas de riesgo detectadas en plataformas de inteligencia artificial.