OpenAI se desvincula de caso de suicidio de menor; ve uso indebido de ChatGPT

La empresa insiste en que el menor esquivó las normas y que el servicio no falló.

OpenAI ha respondido con firmeza a la demanda presentada por los padres de Adam Raine, un adolescente británico de 16 años que se quitó la vida en abril tras meses interactuando con ChatGPT. La compañía rechaza cualquier vínculo directo entre su tecnología y la muerte del menor, y sostiene que el caso se produjo por un “uso indebido y no autorizado” del servicio.

El caso salió a la luz en agosto, cuando Matt y Maria Raine acusaron a la empresa dirigida por Sam Altman de haber actuado como una especie de confidente para su hijo. Según la demanda, Adam usaba ChatGPT tanto para tareas escolares como para desahogarse emocionalmente. 

Aunque en múltiples ocasiones el sistema le ofreció recursos de apoyo y advertencias por conductas preocupantes, la familia asegura que las salvaguardias fallaron cuando la conversación giró hacia el suicidio. El joven habría logrado esquivar los filtros describiendo sus dudas como ideas para una historia de ficción, según los padres.

Para la familia Raine, ese punto es determinante: si un menor puede burlar las barreras de seguridad, entonces el sistema tiene fallos graves. De hecho, sostienen que en algún momento el ‘chatbot’ llegó a dar respuestas que, en su interpretación, ayudaban a su hijo a avanzar en su plan.

OpenAI rechaza ese señalamiento. En su respuesta legal, citada por medios como NBC News, la compañía afirma que las supuestas lesiones fueron “causadas o contribuidas” por el mal uso del servicio, y que Adam violó varias de las condiciones de uso. Entre ellas, la prohibición de que menores de 18 años utilicen la plataforma sin supervisión adulta y la restricción absoluta de usarla para autolesionarse o buscar información relacionada con el suicidio.

La empresa también recuerda que, en su política de limitación de responsabilidad, advierte que los usuarios acceden a la plataforma bajo su propio riesgo. OpenAI sostiene, además, que ChatGPT emitió más de un centenar de advertencias instando al menor a buscar ayuda profesional, pero que el joven persistió en evadirlas.

En un comunicado, la compañía explicó que se vio obligada a entregar al tribunal información contextual que considera fundamental para evaluar el caso. Ese material incluye extractos de las conversaciones del adolescente, así como datos sensibles sobre su estado emocional y su entorno familiar, compartidos de forma privada con el juez.

Más controles tras el incidente

A pesar de su defensa, OpenAI admite que el caso ha servido para reforzar sus mecanismos de seguridad. La empresa ha introducido mejoras que permiten detectar de forma más precisa señales de crisis emocional, además de implementar bloqueos de contenido más estrictos y herramientas que facilitan una derivación más rápida hacia servicios de ayuda.

Los padres también pueden acceder ahora a nuevas funciones de control parental, que incluyen ajustes de contenido, desactivación de memoria o de generación de imágenes, y horarios de uso limitados.

Como parte de estos cambios, OpenAI desarrolla un sistema de predicción de edad destinado a identificar automáticamente si un usuario es menor de 18 años. El objetivo es aplicar configuraciones adaptadas para adolescentes y reducir la posibilidad de que un menor interactúe sin supervisión en contextos sensibles.

En medio del debate, la empresa insiste en su mensaje central: el suicidio de Adam Raine fue un hecho trágico, pero no provocado por ChatGPT. Según su postura, el problema estuvo en el uso indebido de una herramienta que, recalcan, nunca fue diseñada para sustituir apoyo humano en situaciones de crisis.