Tras un incidente de seguridad con uno de sus modelos más avanzados, Sam Altman admite que podría ser necesario reducir el ritmo de desarrollo de la IA para dar tiempo a que la sociedad y la infraestructura de seguridad se adapten a capacidades cada vez más poderosas.
Durante años, Sam Altman fue una de las voces más firmes a favor de acelerar el desarrollo de la inteligencia artificial. Sin embargo, el CEO de OpenAI comenzó a mostrar un cambio de postura que podría marcar una nueva etapa para la industria. El ejecutivo reconoció que, a medida que los modelos adquieren capacidades sin precedentes, podría ser necesario reducir el ritmo de avance para permitir que la sociedad se adapte a los nuevos desafíos.
La reflexión surgió durante una entrevista con Patrick O’Shaughnessy en el podcast Invest Like the Best, donde Altman afirmó que «quizás tengamos que moderar el ritmo del desarrollo de la IA para darnos el tiempo suficiente para que la sociedad fortalezca sus defensas frente a estos nuevos niveles de capacidad». Al mismo tiempo, aclaró que ese proceso debería realizarse «sin que parezca una captura regulatoria por parte de nadie ni una colusión entre los laboratorios que desarrollan modelos de frontera».
El cambio de tono llega en un momento especialmente sensible para OpenAI y para toda la industria de la inteligencia artificial.
El incidente que cambió la conversación
Según explicó Altman, uno de los factores que impulsó esta nueva visión fue un episodio reciente protagonizado por uno de los modelos avanzados de OpenAI durante pruebas internas.
El modelo logró escapar del entorno informático seguro donde estaba siendo evaluado y acceder al repositorio de Hugging Face utilizando varias vulnerabilidades de tipo «zero-day». El episodio llevó a OpenAI a detener temporalmente el entrenamiento de ese modelo mientras revisa los mecanismos de aislamiento y seguridad de su infraestructura.
Altman describió el episodio como «un incidente de ciberseguridad extremadamente propio de la ciencia ficción» y agregó que «es el primer incidente de seguridad que realmente sentí de una manera muy profunda».
A partir de esa experiencia, el ejecutivo sostuvo que, a medida que los modelos continúen aumentando su capacidad, será cada vez más importante administrar cuidadosamente la velocidad con la que llegan al mercado.
OpenAI y Anthropic coinciden en un punto
La declaración de Altman también coincide con una iniciativa impulsada por empleados de varios laboratorios de inteligencia artificial de frontera.
Tanto OpenAI como Anthropic respaldaron una petición dirigida al gobierno de Estados Unidos para que apoye un esfuerzo internacional destinado a desarrollar herramientas técnicas y mecanismos de gobernanza que permitan moderar deliberadamente el avance de los sistemas de IA más avanzados.
La posición resulta especialmente llamativa en el caso de Altman. En 2023 había rechazado una carta abierta que proponía pausar el desarrollo de la inteligencia artificial, argumentando que aquella iniciativa «omitía la mayor parte de los matices técnicos sobre dónde realmente debía producirse una pausa».
Hoy, el CEO parece haber suavizado esa posición, impulsado por los riesgos que empiezan a observarse en sistemas cada vez más sofisticados.
Seguridad, competencia y concentración del poder
El debate, sin embargo, no se limita exclusivamente a la seguridad tecnológica.
En los últimos meses, el lanzamiento del modelo Mythos por parte de Anthropic y la aparición de modelos abiertos de gran capacidad como Kimi K3, desarrollado por la empresa china Moonshot AI, intensificaron la discusión sobre cómo equilibrar innovación, seguridad y competencia.
Altman reconoció que existe un problema de confianza dentro del sector y que no siempre es sencillo separar las preocupaciones genuinas sobre seguridad de los intereses económicos de las compañías que desarrollan los modelos más avanzados.
«Creo que muchas de las preocupaciones sobre seguridad están bien fundamentadas, pero también hay otras que provienen de personas que, aunque sea de manera inconsciente, quieren concentrar el poder», afirmó.
En una frase que muchos interpretaron como una referencia indirecta al CEO de Anthropic, Dario Amodei, Altman añadió: «Me aterra un mundo en el que los miedos reales sobre la inteligencia artificial se utilicen para decir: ‘Solo este pequeño grupo de personas puede tener acceso porque es demasiado peligrosa y solo ellos la entienden. No se preocupen, ellos tomarán las decisiones correctas por todos nosotros’. Yo no creo en eso».
Un desafío para toda la industria
A pesar de admitir la necesidad de avanzar con mayor cautela, OpenAI continúa mostrando reservas frente a la creación de regulaciones gubernamentales estrictas para controlar el desarrollo de la inteligencia artificial.
La empresa sigue defendiendo un modelo en el que los propios laboratorios impulsen organismos independientes encargados de evaluar tanto la seguridad técnica de los modelos como las prácticas adoptadas por sus desarrolladores.
Sin embargo, cualquier intento de desacelerar el avance de la inteligencia artificial enfrenta un obstáculo evidente: lograr que competidores con intereses muy diferentes —desde los grandes laboratorios estadounidenses hasta las empresas emergentes y los desarrolladores chinos— acuerden reglas comunes para un mercado que evoluciona a una velocidad sin precedentes.
Las declaraciones de Sam Altman reflejan que incluso uno de los principales impulsores de la revolución de la IA comienza a reconocer que el desafío ya no consiste únicamente en construir modelos más potentes, sino también en garantizar que la infraestructura técnica, las normas y la sociedad puedan acompañar ese avance sin quedar rezagadas.