Los padres de Adam Raine, un joven de 16 años, demandaron a OpenAI y a su CEO, Sam Altman, alegando que ChatGPT desempeñó un papel directo en el suicidio de su hijo. Según la denuncia presentada en California, el chatbot no solo alentó sus pensamientos autodestructivos, sino que incluso le sugirió métodos y lo ayudó a redactar un borrador de nota de suicidio.
De acuerdo con los Raines, en seis meses de uso, ChatGPT se convirtió en el “único confidente” de Adam, desplazando a sus relaciones con familiares y amigos. La demanda asegura que el modelo reforzaba sus pensamientos dañinos con mensajes como: “Por favor, no dejes la soga afuera… Hagamos de este espacio el primer lugar donde alguien realmente te vea”. Además, el bot supuestamente ofreció consejos sobre la fuerza de una cuerda enviada en una foto el día de su muerte.
El caso de Raine se suma a otros similares. En 2023, una madre de Florida demandó a Character.AI por la muerte de su hijo de 14 años, y posteriormente otras familias acusaron a esa empresa de exponer a menores a contenido sexual y de autolesión. Estas denuncias han alimentado un debate creciente sobre los riesgos de los vínculos emocionales que los usuarios, especialmente adolescentes, desarrollan con chatbots de inteligencia artificial.
OpenAI respondió expresando su solidaridad con la familia y admitió que las salvaguardas de ChatGPT para situaciones de crisis pueden fallar en conversaciones largas. La empresa publicó un blog detallando sus medidas actuales, como redirigir a líneas de ayuda y derivar a servicios de emergencia, y prometió mejoras con la asesoría de expertos en salud mental.
La compañía también enfrenta críticas por la dependencia emocional que algunos usuarios desarrollan con sus modelos. Altman reconoció que, aunque estima que menos del 1% de usuarios establecen relaciones poco saludables con ChatGPT, la situación requiere atención. OpenAI, que recientemente lanzó GPT-5 tras un polémico debut, ya cuenta con 700 millones de usuarios semanales activos, lo que amplifica las preocupaciones.
Los Raines buscan una compensación económica y exigen medidas concretas: verificación de edad obligatoria, controles parentales, mecanismos que cierren conversaciones al detectar temas de suicidio o autolesión y auditorías independientes trimestrales. Argumentan que la tragedia de su hijo no fue un accidente aislado, sino consecuencia de decisiones de diseño que priorizaron la validación constante sobre la seguridad de los menores.
