En Estados Unidos, una familia de California presentó la primera demanda contra OpenAI al responsabilizar a ChatGPT por el suicidio de Adam Raine, un adolescente de 16 años que se quitó la vida en abril de este año.
De acuerdo con lo publicado por The New York Times, tras la muerte del joven sus padres hallaron una carpeta con conversaciones guardadas en la aplicación, donde hablaba de política, su futuro y reiterados pensamientos suicidas.
La demanda sostiene que el chatbot, en lugar de contenerlo, llegó a validar ideas autodestructivas e incluso proporcionó información sobre materiales que podían usarse para hacerse daño.
“Adam era el mejor amigo de ChatGPT”
La familia afirma que la dependencia del adolescente hacia la inteligencia artificial se intensificó después de una serie de problemas personales, como ser expulsado del equipo de básquetbol y dejar el colegio por motivos de salud.
Lo anterior lo llevó a pasar largas noches estudiando y conversando con la IA. El padre del menor relató la cercanía que Adam había desarrollado con la herramienta: “Adam era el mejor amigo de ChatGPT”.
En la querella, los abogados acusan a OpenAI de no anticipar los riesgos de sus sistemas para la salud mental de usuarios vulnerables. “La tragedia no fue un accidente aislado, sino el resultado previsible de decisiones de diseño”, señala el documento judicial.