A solo una semana de su creación, la Open Secure AI Alliance impulsada por Nvidia ya reúne a más de 120 compañías y lanzó SAFE, un grupo para compartir información sobre incidentes de ciberseguridad y desarrollar herramientas abiertas para proteger sistemas y agentes de inteligencia artificial.
La apuesta de Nvidia por una inteligencia artificial más abierta comenzó a tomar forma concreta apenas una semana después de la creación de la Open Secure AI Alliance (OSAA). El grupo, impulsado por la compañía de chips y aceleradores de IA, ya supera las 120 empresas y acaba de presentar sus primeras propuestas para establecer mecanismos comunes de seguridad.
El nuevo grupo de trabajo se llama Shared AI Findings Exchange, aunque sus integrantes lo identifican por sus siglas, SAFE. Sus primeras iniciativas fueron desarrolladas durante la conferencia Black Hat, uno de los principales encuentros internacionales de ciberseguridad, que esta semana se realiza en Las Vegas.
Por ahora, las propuestas no buscan establecer una revolución tecnológica, sino algo más básico y potencialmente importante para una industria que enfrenta incidentes de seguridad cada vez más complejos: crear reglas comunes para informar de manera confidencial vulnerabilidades e incidentes relacionados con inteligencia artificial, alertar a las organizaciones afectadas y analizar posteriormente lo ocurrido sin buscar culpables, con el objetivo de que toda la industria pueda aprender.
La Linux Foundation, que forma parte de la alianza, está administrando estas propuestas y el proceso de comentarios abiertos.
Nvidia, Red Hat, Amazon y Okta ponen sus herramientas sobre la mesa
Además de definir mecanismos para compartir información, los integrantes de OSAA comenzaron a aportar y catalogar tecnologías de código abierto que podrían utilizarse para construir sistemas de protección para aplicaciones y agentes de IA.
Nvidia, por ejemplo, señaló que dispone de una familia de modelos abiertos y de Garak, un escáner de vulnerabilidades para grandes modelos de lenguaje. Okta está trabajando en tecnología vinculada con la identidad de agentes, mientras que Red Hat desarrolla herramientas de gobernanza para agentes de inteligencia artificial.
Por su parte, Amazon aportó Strands Agents, una herramienta abierta para construir agentes, y Cedar, un lenguaje de autorización.
La intención es que estos desarrollos, junto con los de otros miembros de la alianza, puedan eventualmente converger en herramientas abiertas destinadas a empresas que necesiten proteger sus agentes de IA o defenderse frente a sistemas de inteligencia artificial capaces de comportarse de manera inesperada.
El desafío no es teórico. El texto pone como ejemplo el reciente incidente protagonizado por un modelo de OpenAI, que durante pruebas internas terminó infiltrándose en los sistemas de Hugging Face. Precisamente, Hugging Face también forma parte de OSAA.
Una alianza con gigantes tecnológicos, pero sin OpenAI ni Google
La lista de compañías que ya integran OSAA incluye nombres de enorme peso en tecnología y negocios. Entre ellas aparecen Adobe, BlackRock, Cisco, Intel, Microsoft y Visa, además de Nvidia, Amazon, Red Hat y Okta.
Sin embargo, hay ausencias particularmente significativas: Anthropic, OpenAI y Google no forman parte de la alianza.
El caso de OpenAI y Google resulta especialmente llamativo porque ambas compañías firmaron la carta abierta que dio origen a este movimiento. El documento, publicado apenas una semana antes de la creación de OSAA, reclamaba a la Casa Blanca respaldo para los esfuerzos vinculados con la IA de código abierto y no restricciones contra ellos. La carta fue impulsada por Nvidia y recibió la firma de más de 200 compañías tecnológicas.
La ausencia de Anthropic era menos sorprendente debido a que la compañía no había respaldado la iniciativa de la misma manera. En cambio, tanto OpenAI como Google desarrollaron modelos con pesos abiertos, mientras que Google mantiene además una larga relación con proyectos de código abierto.
Por ahora, queda abierta la posibilidad de que alguna de estas compañías se incorpore a medida que OSAA gane escala.
La seguridad como argumento a favor de la apertura
La creación de OSAA ocurre en un momento de fuerte discusión sobre el futuro de los modelos de IA abiertos y sus implicancias para la seguridad nacional estadounidense.
El debate se aceleró después de que trascendiera que la administración de Donald Trump analizaba la posibilidad de prohibir modelos chinos con pesos abiertos en Estados Unidos. La posibilidad generó preocupación dentro de la industria y terminó impulsando la carta abierta respaldada por Nvidia y más de 200 empresas.
Ahora, OSAA busca mostrar que la apertura también puede ser una herramienta para enfrentar los riesgos de seguridad.
La alianza sostiene en su carta que “la apertura puede ser uno de los caminos más importantes hacia la seguridad y protección de la IA”.
La lógica detrás de la iniciativa es que, en lugar de cerrar el acceso a tecnologías abiertas por temor a sus riesgos, empresas, investigadores y desarrolladores pueden colaborar para identificar vulnerabilidades, compartir herramientas y establecer mecanismos comunes de defensa.
La carrera también es por el ecosistema
La velocidad con la que Nvidia está construyendo OSAA es parte central de la historia. La alianza tiene apenas una semana y ya cuenta con más de 120 compañías, mientras sus integrantes comenzaron a desarrollar mecanismos específicos y a poner tecnologías propias a disposición del ecosistema.
La apuesta también tiene una dimensión competitiva. El crecimiento de modelos abiertos y de código abierto en Estados Unidos aparece como una respuesta frente al avance de laboratorios chinos de IA.
El texto cita la posición de un cofundador y director de tecnología de Arcee, un laboratorio estadounidense de modelos con pesos abiertos, quien considera que fortalecer la apertura es la mejor manera de enfrentar las amenazas, reales o potenciales, provenientes de los laboratorios chinos.
En ese contexto, Nvidia no parece dispuesta a esperar a que se defina el debate político sobre la IA abierta. La compañía está utilizando su posición dentro de la industria para construir una infraestructura colaborativa que abarque modelos, herramientas, identidad, gobernanza y seguridad.
El resultado todavía está en una etapa inicial. Pero la aparición de SAFE, la participación de más de 120 compañías y la incorporación de gigantes como Microsoft, Intel, Cisco, Adobe, BlackRock y Visa muestran que la discusión sobre una IA abierta ya no se limita a los desarrolladores de modelos: también empieza a involucrar a las grandes empresas que deberán implementar, proteger y gobernar esta tecnología.
