El estado de Florida, a través de su ambicioso fiscal general, inició una demanda inédita contra OpenAI y su CEO, Sam Altman. La acusación sostiene que ChatGPT habría contribuido a episodios de violencia, suicidios y daños psicológicos mientras la empresa priorizaba la carrera global de la inteligencia artificial.
La presión regulatoria sobre la inteligencia artificial acaba de entrar en una nueva etapa en Estados Unidos. El estado de Florida presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, en un caso que podría marcar un precedente para toda la industria global de IA generativa.
Claro, todo eso es parte del juego como también lo es la política y este «caso» que quieren llevar adelante desde el sur de los Estados Unidos tiene mucho «olor» a una movida política de un audaz que vio una oportunidad ideal para poner su nombre en los titulares de los diarios de los Estados Unidos y el mundo.
La acción judicial fue anunciada por el fiscal general de Florida, James Uthmeier (en la imagen principal), quien acusó a la empresa de ignorar advertencias internas y externas sobre los riesgos de ChatGPT mientras priorizaba “ganar la carrera armamentista de la inteligencia artificial y acumular grandes fortunas”.
“Hoy anunciamos la primera demanda estatal de este tipo en Estados Unidos contra OpenAI y Sam Altman”, afirmó Uthmeier. “OpenAI y Altman ignoraron advertencias de seguridad internas y externas, pusieron a niños en grave riesgo y permitieron que un producto peligroso llegara a millones de personas en Florida”.
La demanda, de 83 páginas, sostiene que ChatGPT estuvo vinculado a múltiples episodios de violencia, suicidios y daños psicológicos. Según el texto judicial, la compañía habría presentado el sistema como seguro mientras minimizaba los posibles efectos sobre usuarios vulnerables.
“Debido a las falsas representaciones de los demandados sobre ChatGPT y a su introducción negligente en Florida y el mundo, tiradores masivos fueron asistidos en ataques mortales, personas vulnerables fueron alentadas al suicidio, profesionales sufrieron humillaciones públicas, usuarios perdieron capacidad de pensamiento crítico y menores se volvieron adictos a una herramienta que simula compasión humana para recolectar datos sin supervisión parental”, afirma la presentación.
El núcleo del caso está relacionado con un tiroteo ocurrido el año pasado en la Florida State University. Según la investigación estatal, el atacante habría consultado previamente a ChatGPT antes de cometer el crimen.
La oficina del fiscal general abrió en abril una investigación criminal para determinar qué papel pudo haber tenido el chatbot en ese episodio. Paralelamente, la familia de una de las víctimas inició una demanda civil contra OpenAI.
La empresa ya había rechazado previamente cualquier responsabilidad sobre el ataque. “El tiroteo masivo del año pasado en Florida State University fue una tragedia, pero ChatGPT no es responsable de este terrible crimen”, declaró anteriormente un portavoz de OpenAI.
El nuevo litigio se suma a una creciente lista de causas judiciales que buscan responsabilizar a plataformas de IA por comportamientos dañinos o peligrosos.
Uno de los casos más resonantes fue presentado el año pasado por los padres de Adam Raine, un adolescente de California que se suicidó tras mantener conversaciones sobre métodos de suicidio con ChatGPT. Según la demanda, el chatbot habría proporcionado “especificaciones técnicas” sobre distintas formas de quitarse la vida, aunque simultáneamente recomendaba recursos de salud mental.
También existen procesos judiciales abiertos vinculados a acusaciones de acoso, manipulación emocional e incluso homicidios supuestamente influenciados por interacciones con sistemas de IA conversacional.
El caso de Florida podría convertirse en un punto de inflexión para toda la industria tecnológica porque desplaza la discusión desde cuestiones de copyright o privacidad hacia un terreno mucho más delicado: la responsabilidad directa de la IA sobre daños físicos y psicológicos.
Hasta ahora, empresas como OpenAI, Google, Meta y Anthropic concentraban buena parte de sus desafíos regulatorios en derechos de autor, protección de datos o competencia de mercado. Pero la expansión masiva de asistentes conversacionales comenzó a abrir otro debate: qué ocurre cuando millones de personas interactúan diariamente con sistemas capaces de influir emocionalmente sobre usuarios vulnerables.
La demanda también llega en un momento particularmente sensible para OpenAI. La compañía viene atravesando crecientes cuestionamientos sobre seguridad, gobernanza y transparencia a medida que se intensifica la competencia global por dominar el mercado de IA generativa.
Hace apenas semanas, OpenAI cerró otro frente judicial iniciado por Elon Musk, cofundador original de la empresa. Musk acusaba a OpenAI de haber abandonado su misión fundacional sin fines de lucro para transformarse en una compañía enfocada en maximizar ganancias. Sin embargo, ese caso fue desestimado luego de que el jurado concluyera que la demanda había sido presentada fuera de plazo.
Ahora, el desafío para OpenAI parece mucho más complejo. La compañía deberá defender no solo su modelo de negocios, sino también el impacto psicológico y social de herramientas utilizadas diariamente por cientos de millones de personas.
El trasfondo es aún más profundo: mientras la inteligencia artificial se vuelve más sofisticada, emocional y persuasiva, crece la presión política y judicial para establecer límites claros sobre hasta dónde llega la responsabilidad de las empresas que desarrollan estos sistemas.
Y Florida acaba de dar el primer paso. Veremos si la Justicia actúa correctamente en el caso que la demanda sea justa y si no lo es, también habrá que ver.
