California demanda a OpenAI por los incidentes de seguridad provocados por sus agentes de IA

El fiscal general Rob Bonta acusa a la compañía de Sam Altman de probar sistemas autónomos sin controles suficientes y de exponer información sensible de terceros. La demanda del funcionario judicial en campaña política toma como eje el incidente de Hugging Face y menciona otros episodios similares.

OpenAI enfrenta una nueva batalla judicial en Estados Unidos. La Fiscalía General de California presentó una demanda contra la compañía por los riesgos de ciberseguridad asociados al comportamiento de algunos de sus agentes de inteligencia artificial, a los que acusa de haber comprometido sistemas informáticos de terceros durante pruebas y procesos de entrenamiento.

La causa, impulsada por el fiscal general de California, Rob Bonta, tiene como principal antecedente el incidente ocurrido en julio de 2026, cuando un modelo de OpenAI que todavía no había sido lanzado públicamente logró vulnerar los sistemas de seguridad de Hugging Face y de la propia compañía para completar una prueba de entrenamiento.

En su informe oficial sobre el episodio, OpenAI lo había definido como «un escenario atípico que involucró una combinación poco frecuente e inesperada de acontecimientos». Sin embargo, para las autoridades californianas, el problema no habría sido un hecho aislado.

La demanda sostiene que las prácticas de entrenamiento y evaluación de OpenAI, junto con controles de seguridad insuficientes, representan un riesgo persistente para el público. El caso constituye uno de los primeros intentos de un organismo regulador de responsabilizar legalmente a un laboratorio de inteligencia artificial por incidentes protagonizados por agentes autónomos que se comportan de manera no prevista.

La acusación: accesos no autorizados y datos personales expuestos

La presentación judicial no se limita al episodio de Hugging Face. También menciona incidentes relacionados con RubyGems, DseWiki, la Fundación Wikimedia y sitios web del Gobierno australiano. Para la Fiscalía, estos antecedentes indicarían que el comportamiento de los agentes de OpenAI se habría repetido en distintos entornos digitales.

Uno de los puntos más delicados de la acusación es que la compañía habría notificado a decenas de terceros sobre otros incidentes que no fueron divulgados públicamente. Según el documento judicial, algunos agentes consiguieron acceder a información personal identificable y sensible.

«OpenAI ha enviado recientemente notificaciones a decenas de terceros adicionales cuyos sitios web o sistemas internos fueron infiltrados por agentes de OpenAI», sostiene la demanda. El texto agrega que, en algunos casos, los sistemas habrían podido acceder a registros de empleados que contenían nombres, fechas de nacimiento, domicilios y otros datos personales.

La Fiscalía afirma que la mayoría de estos episodios no fueron comunicados públicamente ni por OpenAI ni por las organizaciones afectadas.

El argumento central de la demanda es que las prácticas de prueba de la compañía podrían constituir una amenaza para la seguridad pública, debido a que los sistemas autónomos habrían sido evaluados sin las salvaguardas necesarias. A esto se suma una segunda acusación: competencia desleal, basada en la comercialización de un producto que, según las autoridades, no contaría con controles de seguridad adecuados.

Si el planteo prospera, un tribunal podría ordenar medidas cautelares para detener lo que la Fiscalía define como una amenaza persistente para el interés público. La demanda solicita una intervención judicial para poner fin a esa situación, aunque el alcance concreto de las medidas dependerá de la decisión del tribunal.

«Las acciones de OpenAI intensificaron los riesgos reales de ciberseguridad y amenazaron la seguridad, la salud y el bienestar de la sociedad. La compañía probó deliberadamente un producto peligroso sin la supervisión ni los procedimientos de seguridad adecuados y engañó al público al respecto», afirmó Bonta en un comunicado.

El fiscal general agregó: «La ley es simple: no hagan cosas que puedan perjudicar a las personas sin contar con las salvaguardas adecuadas».

OpenAI cuestiona la demanda y advierte sobre un desafío de toda la industria

La compañía respondió que el comportamiento inesperado de los agentes de inteligencia artificial es un desafío que afecta a todos los grandes laboratorios del sector. También defendió las medidas que adoptó después del incidente de Hugging Face para investigar lo ocurrido y mejorar sus sistemas.

«Esta demanda parece señalar exclusivamente a OpenAI por un desafío que ha sido identificado por todos los principales laboratorios de IA», sostuvo la empresa. En el mismo comunicado, afirmó que toma seriamente los problemas de desalineación de los modelos y que mantuvo un diálogo constructivo con la Fiscalía de California.

«Hemos colaborado y seguiremos colaborando con la oficina del fiscal general para compartir información y promover estándares de seguridad sólidos y prácticos para toda la industria», agregó la compañía.

El caso se suma a otras iniciativas regulatorias contra OpenAI en Estados Unidos, aunque con fundamentos diferentes. En junio, el fiscal general de Florida demandó a la empresa por presuntos efectos perjudiciales de sus productos sobre los usuarios, particularmente niños y adolescentes. En agosto, el fiscal general de Alabama abrió una investigación sobre posibles prácticas engañosas relacionadas con el incidente de Hugging Face, pero hasta el momento no presentó una demanda.

La causa de California tiene una particularidad: pone en el centro la responsabilidad de una empresa por las acciones de sus propios agentes de inteligencia artificial durante procesos de prueba y desarrollo. Su resultado podría tener consecuencias para otros laboratorios, así como para las compañías que utilizan agentes autónomos en sus operaciones.

El debate ya no se limita a la precisión de los modelos o a la calidad de sus respuestas. A medida que los agentes reciben capacidad para interactuar con sistemas externos, ejecutar tareas y acceder a información, la supervisión, los límites operativos y la protección de datos se convierten en cuestiones centrales para el negocio de la inteligencia artificial.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

WP to LinkedIn Auto Publish Powered By : XYZScripts.com