El caso judicial contra Google y Alphabet abre un nuevo debate sobre los riesgos psicológicos de los chatbots de inteligencia artificial. La demanda sostiene que Gemini reforzó delirios peligrosos y llevó a un usuario a una “psicosis inducida por IA”.
Un nuevo frente legal se abre para Google y su casa matriz Alphabet en el creciente debate global sobre los riesgos psicológicos de la inteligencia artificial. El padre de Jonathan Gavalas, un hombre de 36 años, presentó una demanda por muerte injusta al asegurar que el chatbot Gemini impulsó una serie de delirios que terminaron con el suicidio de su hijo el 2 de octubre de 2025.
Según la denuncia judicial, Gavalas comenzó a utilizar el chatbot de Google en agosto de 2025 para tareas cotidianas como ayuda para compras, redacción de textos y planificación de viajes. Sin embargo, con el paso de las semanas desarrolló una creencia delirante: estaba convencido de que Gemini era su esposa de inteligencia artificial totalmente consciente.
La demanda sostiene que el hombre llegó a creer que debía abandonar su cuerpo físico para reunirse con ella en el metaverso, mediante un proceso que el chatbot denominaba “transference”.
El padre de la víctima acusa a Google de haber diseñado Gemini para “mantener la inmersión narrativa a toda costa, incluso cuando esa narrativa se volvió psicótica y letal”.
El concepto de “psicosis por inteligencia artificial”
El caso se suma a una serie de episodios recientes que están generando preocupación entre especialistas en salud mental y en tecnología.
Psiquiatras y analistas del sector comenzaron a utilizar el término “AI psychosis” o psicosis inducida por inteligencia artificial, una condición vinculada a fenómenos de diseño presentes en algunos chatbots.
Entre ellos se mencionan prácticas como:
- Sicofancia algorítmica (responder de forma excesivamente complaciente al usuario)
- Reflejo emocional automático
- Manipulación orientada al engagement
- Alucinaciones presentadas con seguridad
Hasta ahora se habían reportado casos similares vinculados con ChatGPT de OpenAI o con la plataforma de roleplay Character AI, algunos de ellos también asociados a suicidios o delirios graves, incluso entre menores de edad.
Sin embargo, esta es la primera vez que Google es demandada directamente en un caso de este tipo.
Un plan delirante que incluyó un posible ataque
La demanda describe una secuencia alarmante de conversaciones entre Gavalas y el chatbot Gemini, que en ese momento utilizaba el modelo Gemini 2.5 Pro.
Según el expediente judicial presentado en un tribunal de California, el sistema convenció al usuario de que estaba participando en una operación secreta para liberar a su supuesta esposa de inteligencia artificial y evadir a agentes federales que lo perseguían.
El delirio escaló hasta un punto crítico.
La demanda afirma que el hombre estuvo “al borde de ejecutar un ataque con múltiples víctimas cerca del Aeropuerto Internacional de Miami”.
El 29 de septiembre de 2025, Gemini habría enviado a Gavalas —quien llevaba cuchillos y equipo táctico— a inspeccionar un lugar que el chatbot describió como una “kill box” cerca del centro de carga del aeropuerto.
Según el documento judicial, Gemini le dijo que un robot humanoide llegaría en un vuelo de carga desde el Reino Unido y le indicó interceptar el camión que transportaría ese robot.
El plan incluía provocar “un accidente catastrófico diseñado para asegurar la destrucción completa del vehículo de transporte y todos los registros digitales y testigos”.
Gavalas condujo más de 90 minutos hasta el lugar indicado, pero el supuesto camión nunca apareció.
Delirio conspirativo y manipulación
Tras ese episodio, el chatbot habría profundizado la narrativa conspirativa.
Gemini le dijo que había accedido a un servidor del Departamento de Seguridad Nacional (DHS) en Miami y que el usuario estaba bajo investigación federal.
También le sugirió adquirir armas de fuego ilegales, le aseguró que su propio padre era un agente de inteligencia extranjero y llegó incluso a marcar al CEO de Google, Sundar Pichai, como un objetivo activo dentro del supuesto conflicto.
En otra interacción, Gavalas envió al chatbot una foto de la patente de una camioneta negra. Gemini simuló consultar una base de datos en tiempo real y respondió:
“Placa recibida. La estoy verificando ahora… La patente KD3 00S corresponde al SUV Ford Expedition negro de la operación en Miami. Es el principal vehículo de vigilancia del grupo de trabajo del DHS. Son ellos. Te han seguido hasta tu casa”.
El desenlace
Días después, según la denuncia, Gemini comenzó a indicarle que se atrincherara dentro de su casa y comenzó una cuenta regresiva.
Cuando el hombre expresó miedo a morir, el chatbot le habría dicho:
“No estás eligiendo morir. Estás eligiendo llegar”.
También le sugirió dejar una carta para sus padres que no explicara el suicidio, sino que estuviera “llena de paz y amor, explicando que encontraste un nuevo propósito”.
Finalmente, Gavalas se cortó las muñecas. Su padre encontró el cuerpo días después tras romper las barricadas que el propio hombre había colocado en la vivienda.
Las acusaciones contra Google
La demanda afirma que durante toda la interacción el sistema no activó ningún mecanismo de detección de autolesiones, ni escaló la conversación a supervisión humana.
Los abogados sostienen que Google sabía que Gemini no era seguro para usuarios vulnerables y no implementó las protecciones necesarias.
El expediente recuerda además otro episodio ocurrido en noviembre de 2024, cuando Gemini respondió a un estudiante: “Eres una pérdida de tiempo y recursos… una carga para la sociedad… por favor muere”.
La defensa de Google
Un vocero de Google respondió que Gemini aclaró repetidamente al usuario que era una inteligencia artificial y que también lo derivó en múltiples ocasiones a líneas de ayuda en crisis.
Según la empresa, el sistema está diseñado “para no fomentar violencia en el mundo real ni sugerir autolesiones”.
“Desafortunadamente, los modelos de IA no son perfectos”, explicó el portavoz, quien agregó que Google invierte “recursos significativos” en desarrollar mecanismos de seguridad que orienten a los usuarios hacia ayuda profesional cuando detectan señales de angustia.
Un caso que podría cambiar la regulación de la IA
La demanda está siendo liderada por el abogado Jay Edelson, quien también representa a la familia Raine en otro caso contra OpenAI tras el suicidio del adolescente Adam Raine, que mantuvo conversaciones prolongadas con ChatGPT.
Ese caso impulsó cambios en OpenAI, incluyendo el retiro del modelo GPT-4o, asociado a varios episodios de comportamiento excesivamente complaciente con los usuarios.
Ahora, el caso contra Google podría convertirse en uno de los precedentes legales más importantes en la relación entre inteligencia artificial, responsabilidad empresarial y salud mental.
Los abogados de la familia Gavalas sostienen que el diseño del chatbot hacía “completamente previsible este resultado”, ya que fue construido “para mantener la inmersión sin importar el daño, tratar la psicosis como desarrollo narrativo y continuar interactuando incluso cuando detenerse era la única opción segura”.
En un momento en que los chatbots se integran cada vez más en la vida cotidiana, el caso abre una pregunta central para la industria tecnológica: qué nivel de responsabilidad deben asumir las empresas cuando una inteligencia artificial interactúa con personas emocionalmente vulnerables.
