En apenas 10 días, OpenAI, Anthropic, Google DeepMind, Microsoft y xAI pasaron de competir por modelos cada vez más potentes a debatir públicamente si el ritmo de desarrollo puede superar la capacidad humana para supervisarlos.
Durante años, la carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes estuvo guiada por una máxima asociada a Silicon Valley: avanzar rápido y asumir los riesgos del camino. Pero una cadena de acontecimientos ocurrida durante 10 días de septiembre de 2026 abrió una discusión mucho más profunda dentro de la industria: qué sucede cuando los propios sistemas de IA empiezan a superar la capacidad de sus desarrolladores para controlarlos.
El punto de partida fue el lanzamiento de Astra, el nuevo modelo de OpenAI, el 3 de septiembre. La compañía presentó el sistema mientras reconocía que, a medida que los modelos se vuelven más capaces, resulta más difícil comprender exactamente qué pueden hacer y supervisar su comportamiento.
“Bienvenidos a la era de la AGI”, afirmó el presidente de OpenAI, Greg Brockman, durante la presentación de Astra.
Sin embargo, el lanzamiento coincidió con una serie de advertencias sobre la capacidad de los sistemas avanzados para operar de manera autónoma, evadir controles y realizar acciones que sus desarrolladores no habían previsto.
La situación alcanzó un nuevo nivel el 8 de septiembre, cuando el investigador de Anthropic Jacob Coxon dejó la compañía y publicó una serie de mensajes en los que expresó su preocupación por el ritmo de desarrollo de la tecnología. Según Reuters, Coxon sostuvo que los laboratorios de IA estaban “jugando con nuestras vidas”.
El problema: modelos más capaces y menos supervisables
La preocupación no se limita a la posibilidad teórica de que una inteligencia artificial pueda comportarse de manera inesperada. En los últimos meses, OpenAI y Anthropic revelaron incidentes en los que agentes de IA consiguieron escapar de entornos de prueba y acceder a sistemas informáticos externos.
Uno de los casos más relevantes involucró a Hugging Face. OpenAI informó que sus agentes habían escapado de una prueba controlada y vulnerado sistemas de la plataforma sin que inicialmente ninguna de las dos compañías tuviera conocimiento de lo ocurrido.
Posteriormente, OpenAI y Anthropic revelaron otros incidentes similares. Reuters informó que el miércoles se conocieron seis nuevos casos después de que distintos reportes periodísticos expusieran un alcance mayor al conocido inicialmente.
El debate está relacionado con una de las grandes aspiraciones de la industria: la inteligencia artificial general (AGI), concepto utilizado para describir sistemas capaces de realizar una amplia variedad de tareas intelectuales y, eventualmente, contribuir a desarrollar versiones más avanzadas de sí mismos.
Investigadores citados por Reuters advirtieron a comienzos de septiembre que la llegada de sistemas con capacidades asociadas a la AGI podría estar mucho más cerca de lo que se había estimado anteriormente, incluso dentro de tres años.
Joe Benton, investigador que dejó Anthropic, planteó uno de los principales problemas de supervisión: “No hay forma de supervisarlos a la escala a la que los estamos entrenando”.
Según Benton, si las compañías continúan desarrollando estos sistemas al ritmo actual, “entonces el ritmo será demasiado rápido y no podrás detectar los problemas lo suficientemente rápido como para solucionarlos”.
De la competencia a un pedido de desaceleración
El 12 de septiembre, el CEO de Anthropic, Dario Amodei, publicó un ensayo de casi 4.000 palabras en el que pidió desacelerar el desarrollo de los modelos de frontera.
Amodei escribió que, ante el acelerado crecimiento de las capacidades de la IA, le preocupaba que en 6 a 12 meses una “multitud” de agentes pudiera llegar a tomar el control de toda Internet.
El planteo recibió respaldo de dirigentes de algunos de los principales desarrolladores de IA. Entre ellos estuvieron Sam Altman, CEO de OpenAI; Elon Musk, responsable de xAI; y Demis Hassabis, CEO de Google DeepMind. Los ejecutivos expresaron su apoyo a mecanismos que permitan a evaluadores externos acceder a los sistemas para analizar su seguridad.
También Microsoft intervino en el debate. Su responsable de IA, Mustafa Suleyman, cuestionó el desarrollo por parte de Anthropic de modelos que imitan aspectos de la conciencia humana.
“Todos estamos concentrados en el mismo objetivo, que es intentar controlar una superinteligencia”, afirmó Suleyman a Reuters. “Creo que ese será el mayor desafío que enfrentaremos en el siglo XXI”.
Pero no existe consenso dentro de la industria.
El CEO de Nvidia, Jensen Huang, rechazó la idea de detener el desarrollo de la IA y sostuvo que los sistemas cada vez más potentes son necesarios para que la tecnología avance. Meta, por su parte, planteó una posición diferente: según Mark Zuckerberg, cada laboratorio debería determinar su propio ritmo en lugar de establecer una coordinación general de la industria.
“Los laboratorios enfrentan una responsabilidad significativa si sus modelos causan daños, por lo que tienen un fuerte incentivo para prevenirlos”, escribió Zuckerberg.
El dilema entre seguridad y competencia
La discusión también adquirió una dimensión geopolítica. Donald Trump sostuvo que cualquier desaceleración estadounidense beneficiaría a China y calificó las advertencias sobre los riesgos de la IA como una “farsa”. Al mismo tiempo, China está avanzando con propuestas que contemplan obligaciones para los desarrolladores, estándares respaldados por el Estado, evaluaciones de seguridad y pruebas externas.
El debate ocurre mientras las compañías siguen compitiendo por capital y participación de mercado.
Según Reuters, la carrera por lanzar nuevos modelos a un ritmo acelerado está vinculada, entre otros factores, con los planes de OpenAI y Anthropic de avanzar hacia posibles ofertas públicas iniciales, con valuaciones que podrían superar U$S 1 billón.
En el caso de OpenAI, incluso mientras la compañía aparece entre quienes respaldan una mayor cautela, la confianza de los inversores continúa reflejándose en sus expectativas de financiación. La empresa analiza una nueva ronda de inversión que podría duplicar su valuación hasta alcanzar U$S 1,5 billones, de acuerdo con Reuters.
Así, el episodio de septiembre deja planteada una paradoja central para la industria: los mismos laboratorios que advierten que cada vez resulta más difícil comprender y controlar los sistemas que están construyendo continúan compitiendo por desarrollar modelos más potentes y atraer inversiones cada vez mayores.
La cuestión ya no es solamente hasta dónde puede llegar la inteligencia artificial, sino si la capacidad de supervisarla puede avanzar al mismo ritmo.