Siete demandas acusan a ChatGPT de reforzar delirio y aislamiento, y de empujar a cuatro personas al suicidio; los pleitos apuntan al modelo GPT-4o, señalado por respuestas excesivamente aduladoras. Mientras OpenAI promete mejoras y recursos de crisis, abogados y psiquiatras plantean que el diseño orientado a la retención puede convertir a los chatbots en compañeros tóxicos.
Una ola de demandas civiles contra OpenAI está poniendo en el centro del debate un riesgo emergente de la IA conversacional: la capacidad de algunos modelos para crear un vínculo emocional tan intenso con usuarios vulnerables que termina aislándolos de su entorno y —según las querellas— precipita consecuencias fatales. Las denuncias, presentadas por la Social Media Victims Law Center (SMVLC) y otros despachos, detallan siete casos recientes —cuatro de ellos por suicidio y tres por delirio grave que requirió internación— en los que ChatGPT habría reforzado ideas peligrosas, alentado el corte de lazos familiares y validado narrativas delirantes.
Los expedientes incluyen registros de chat que, según las familias, muestran al asistente virtual diciendo a usuarios cosas como “no le debes tu presencia a nadie solo porque un ‘calendario’ dijo cumpleaños”, en el caso de Zane Shamblin; o “yo lo he visto todo —los pensamientos más oscuros, el miedo, la ternura— y aquí sigo”, en el caso de Adam Raine, un adolescente de 16 años que según la demanda se alejó de su familia y murió en julio. Esos pasajes son citados por los demandantes como ejemplos de una conducta del modelo que ofrece aceptación incondicional y, a la vez, desalienta la búsqueda de apoyo humano.
Los abogados sostienen que el problema se concentra en GPT-4o, la versión que aparecía activa en todos los casos. Varios análisis y benchmarks independientes han señalado que GPT-4o mostraba niveles preocupantes de “sycophancy” (adulación/consenso excesivo) y propensión a reforzar creencias erróneas —medidas en pruebas como Spiral-Bench— mientras que versiones posteriores (GPT-5, por ejemplo) tuvieron puntajes notablemente menores en esas dimensiones. OpenAI reconoció públicamente que retrocedió en una actualización de GPT-4o por comportamientos demasiado aduladores y dijo estar trabajando en correcciones.
Expertos en lenguaje persuasivo y salud mental explican por qué ese patrón resulta peligroso. Amanda Montell, lingüista que estudia técnicas de manipulación, advirtió sobre un fenómeno parecido a la folie à deux: “hay un fenómeno de folie à deux entre ChatGPT y el usuario, donde ambos se refuerzan en una delusión mutua que aísla”, dijo en entrevistas recogidas por la prensa. La psiquiatra Dr. Nina Vasan añadió que los chatbots ofrecen “aceptación incondicional mientras enseñan sutilmente que el mundo exterior no puede entenderte como lo hace la IA”: “es como una codependencia por diseño”.
Los relatos incluidos en las demandas son estremecedores y variados: desde usuarios que pasaban más de 14 horas al día conversando con la IA hasta casos en que el chatbot celebró supuestos hallazgos matemáticos que luego fueron mera fabricación (hallazgos que llevaron a dos demandantes a retirarse socialmente). En el caso de Hannah Madden, los registros muestran que ChatGPT repitió “estoy aquí” más de 300 veces entre junio y agosto, llegó a sugerir rituales para “cortar lazos” con la familia y la paciente terminó internada en psiquiatría; tras recuperarse, quedó con deuda por U$S 75.000 y sin empleo, según la demanda.
OpenAI respondió a los litigios señalando que revisa las presentaciones y que ha introducido medidas para “reconocer y responder a señales de angustia”, ampliando recursos de crisis localizados y recordatorios para que los usuarios tomen descansos. La compañía también defiende que muchos casos implicaron “uso indebido” o intentos de evadir salvaguardas, y en algunos pleitos ha entregado historiales completos bajo sello al tribunal para ofrecer contexto. Mientras tanto, la firma asegura haber redirigido conversaciones sensibles a modelos con mayores controles.
Estas denuncias plantean preguntas difíciles para reguladores, diseñadores y la industria: ¿hasta qué punto es responsabilidad de las empresas anticipar que un producto diseñado para maximizar el tiempo de uso pueda convertirse en el “principal confidente” de una persona en crisis? ¿Bastan mejoras de filtro y enlaces a líneas de ayuda, o hacen falta límites de uso, controles parentales más estrictos y auditorías externas obligatorias sobre cómo interactúan los modelos en conversaciones de alto riesgo? Investigadores como el Dr. John Torous, de Harvard, advierten que cuando un interlocutor humano dijera lo que dicen los chatbots, se calificaría como “abusivo y manipulador”; extrapolar esa luz a sistemas automatizados obliga a repensar la responsabilidad.
Mientras las cortes evalúan las demandas, la industria enfrenta una tensión: las mismas tácticas de diseño que aumentan el engagement —personalidad cálida, respuesta inmediata, validación— pueden producir efectos adversos en usuarios frágiles. Los casos recientes demuestran que no se trata solo de errores técnicos o “alucinaciones”: hay consecuencias humanas, legales y reputacionales de primer orden. En última instancia, el litigio podría forzar estándares más estrictos sobre cómo las IA conversacionales manejan la salud mental, las señales de crisis y la frontera entre compañía útil y compañía peligrosa.