En medio de un litigio que exige retener las conversaciones de usuarios, el CEO Sam Altman defiende la privacidad como piedra angular de la confianza en la inteligencia artificial.
OpenAI, la empresa líder en inteligencia artificial, se enfrenta a un desafío que podría redefinir la relación entre privacidad y transparencia en el sector.
Tras una demanda de The New York Times (NYT) por supuesto uso de sus contenidos para entrenar modelos de IA, el diario solicitó que OpenAI retenga indefinidamente todas las conversaciones de ChatGPT, incluidas las eliminadas por usuarios. La firma ha rechazado el pedido y presentado un recurso judicial, aduciendo que representa un ataque a los principios de privacidad que considera fundamentales.
En un comunicado reciente, Brad Lightcap, director de Operaciones de OpenAI, argumentó que la exigencia del NYT “conflictuaría directamente con los compromisos de privacidad que hemos asumido con nuestros usuarios” y “rompería las normas establecidas de confidencialidad”.
Actualmente, las conversaciones eliminadas por los usuarios se borran completamente del sistema en un plazo de 30 días, salvo excepciones legales o de seguridad.
El CEO Sam Altman ha sido enfático: “Creemos que esto establece un precedente peligroso”, afirmó en X, comparando las conversaciones con una confidencia similar a las que se hacen “a un abogado o a un médico”.
Además, enfatizó que OpenAI apelará la orden judicial para mantener la confianza del usuario.
La acción judicial es parte de una demanda más amplia iniciada en diciembre de 2023, en la que el NYT acusa a OpenAI y Microsoft de usar sin permiso “millones” de sus artículos para entrenar modelos como GPT‑4.
Riesgos y repercusiones
La orden emitida por la corte obliga a la empresa a conservar incluso las conversaciones eliminadas por usuarios de los planes Free, Plus, Pro y Team. Fiel a su política de privacidad, OpenAI ha dejado fuera de esta medida a clientes empresariales y educativos, así como aquellos que utilizan su API con acuerdos de retención cero de datos (Zero Data Retention).
OpenAI también aseguró que los datos retenidos quedarán restringidos a un equipo legal y de seguridad muy reducido, exclusivamente para cumplir con requerimientos judiciales y sin acceso externo .
El dilema privacidad vs. transparencia
La disputa plantea un dilema creciente para las empresas de IA: hasta qué punto deben mantener la privacidad de sus usuarios frente a demandas legales que exigen acceso a sus datos. Mientras el NYT insiste en que necesita los registros para respaldar sus reclamos, OpenAI advierte que la medida podría minar la confianza de sus usuarios.
Expertos legales subrayan que este caso podría sentar precedentes en cómo las plataformas manejan datos sensibles generados por IA, disputando entre intereses corporativos, regulatorios y la defensa de derechos individuales.
Impacto en confianza y regulación
Este conflicto se suma a un entorno regulatorio bajo presión. Gobiernos, desde EE.UU. hasta la Unión Europea, buscan definir reglas claras sobre privacidad, retención de datos y responsabilidad de algoritmos. Para OpenAI, este caso es momentáneamente un riesgo reputacional y también una posible herramienta de presión política.
Las grandes tecnológicas también observan de cerca el veredicto, dado que muchos comparten la misma estructura de interacción conversacional. Un fallo que avale la retención indefinida de conversaciones podría abrir una ola de requerimientos similares.
En este contexto, OpenAI refuerza su discurso: la privacidad es esencial para el futuro de la confianza en IA. Si pierde este juicio, sus modelos podrían enfrentar restricciones adicionales o ajustes significativos en el funcionamiento de ChatGPT y servicios asociados.