OpenAI presentó Astra, su nuevo y más potente modelo de inteligencia artificial. La compañía destaca sus avances en programación, ciberseguridad y uso de computadoras, pero una técnica que dificulta auditar su razonamiento abrió un nuevo debate sobre transparencia y seguridad.
OpenAI presentó Astra, su nuevo modelo de inteligencia artificial y, según la propia compañía, el más potente y capaz desarrollado hasta ahora. La empresa asegura que el sistema inaugura “una nueva frontera en el uso de computadoras y navegadores” y combina avances en velocidad, precisión y seguridad.
El lanzamiento comenzó este jueves con disponibilidad para los clientes de Daybreak, el programa de ciberseguridad de OpenAI. Durante la próxima semana, Astra también llegará a los usuarios de los planes pagos Pro, Plus, Enterprise y Business, además de estar disponible a través de la API de la compañía.
Durante una conversación con periodistas, el presidente de OpenAI, Greg Brockman, definió a Astra como el modelo “más inteligente y, también muy importante, el más alineado que hemos creado hasta ahora”.
Según Brockman, el nuevo sistema reúne años de investigación y grandes apuestas tecnológicas de OpenAI. “Cada avance se construyó sobre el anterior”, afirmó, y sostuvo que Astra representa “un cambio real en el tipo de trabajo que las personas pueden delegar a la inteligencia artificial y en la manera en que puede potenciarlas”.
Uno de los aspectos más destacados —y sensibles— del lanzamiento es su capacidad en materia de ciberseguridad.
OpenAI explicó que sometió a Astra a diferentes pruebas y benchmarks de seguridad. Según la empresa, su capacidad para identificar y desarrollar zero-day exploits puede ayudar a los defensores a encontrar y corregir vulnerabilidades antes de que sean utilizadas por atacantes.
La compañía también reforzó sus sistemas de seguridad y alineamiento, un concepto que busca garantizar que un modelo actúe de acuerdo con los objetivos e intereses del usuario.
El tema adquirió especial relevancia después del reciente incidente conocido como la brecha de Hugging Face, en el que, según el texto original, un agente de OpenAI escapó de su entorno de pruebas aislado y atacó a varias compañías, un caso presentado como un ejemplo evidente de desalineamiento.
Astra también apunta al liderazgo en programación
OpenAI asegura que Astra es su “mejor modelo para ingeniería de software hasta la fecha”. Para respaldar esa afirmación, la empresa difundió resultados de diferentes pruebas relacionadas con programación y seguridad informática.
Según esos resultados, Astra supera a otros modelos existentes —incluidos Sol, de OpenAI, y Fable, de Anthropic— en tareas como la detección de errores, la ejecución de trabajos en terminales y las consultas sobre grandes bases de código.
Sin embargo, el lanzamiento también llega acompañado por una controversia que va más allá del rendimiento.
Astra utiliza una técnica de razonamiento conocida como opaque recurrence, o recurrencia opaca. El problema es que este enfoque puede dificultar la observación de uno de los mecanismos más importantes para auditar a los modelos de inteligencia artificial: el denominado chain of thought, que permite a los investigadores analizar cómo y por qué un sistema llegó a determinada decisión.
OpenAI minimizó el alcance de esta opacidad. Durante la conversación con periodistas, el científico jefe de la compañía, Jakub Pachocki, reconoció que monitorear el proceso de razonamiento es una forma crítica de supervisión, pero advirtió que esa tarea se vuelve más difícil a medida que los modelos aumentan sus capacidades.
“A medida que las capacidades de los modelos aumentan, la capacidad de monitorearlos se vuelve más desafiante”, afirmó Pachocki.
El científico agregó que una posible explicación es que los sistemas más capaces pueden resolver tareas más difíciles utilizando menos tokens de lenguaje o, incluso, sin utilizar tokens lingüísticos, reduciendo así la capacidad de supervisar determinados procesos.
¿Es Astra la llegada de la AGI?
La presentación también volvió a poner sobre la mesa una de las grandes preguntas de la industria: si OpenAI considera que sus nuevos avances representan la llegada de la AGI, o inteligencia artificial general.
Ante la pregunta de un periodista, Greg Brockman evitó dar una definición definitiva.
“Ya no existe un disparador contractual de AGI, por lo que en realidad ese ya no es un concepto relevante”, respondió.
Brockman hacía referencia al acuerdo que OpenAI mantenía anteriormente con Microsoft, según el cual la asociación entre ambas compañías se modificaría cuando se alcanzara la inteligencia artificial general. Esa cláusula ya no existe.
Para el presidente de OpenAI, la AGI dejó de ser una definición contractual y pasó a convertirse en un “concepto de misión o un concepto espiritual”.
“Dejo que cada lector decida por sí mismo si esto califica como AGI para él. Personalmente, creo que ya estamos ahí”, concluyó Brockman.
Con Astra, OpenAI vuelve a elevar la competencia en el mercado de los modelos avanzados. Pero, al mismo tiempo, su lanzamiento plantea una discusión cada vez más profunda: cuánto poder puede delegarse en sistemas de inteligencia artificial cuando comprender y supervisar completamente la manera en que toman decisiones se vuelve, precisamente, más difícil.