Jakub Pachocki, científico jefe de OpenAI, aseguró que la compañía espera que la inteligencia artificial avance hacia la mejora recursiva de sí misma. Pero advirtió que ningún laboratorio ha resuelto todavía los problemas de alineación y monitoreo necesarios para acelerar el desarrollo sin límites.
La carrera por desarrollar inteligencia artificial cada vez más poderosa acaba de recibir una advertencia desde uno de sus protagonistas centrales. Jakub Pachocki, científico jefe de OpenAI, sostuvo que los sistemas de IA están avanzando hacia una etapa en la que podrían impulsar cada vez más su propio desarrollo, pero alertó que la humanidad todavía no cuenta con mecanismos suficientes para comprender, monitorear y controlar esa inteligencia.
En un extenso ensayo titulado An Alien Mind —Una mente alienígena—, Pachocki planteó una visión tan ambiciosa como inquietante sobre el futuro de la IA. Su principal conclusión es contundente: si el desarrollo continúa por su trayectoria actual, los sistemas que aparecerán durante los próximos años podrían experimentar nuevos saltos de capacidades y participar de manera creciente en su propia evolución.
“Basándome en resultados internos, tengo una fuerte expectativa de que esta velocidad de progreso pueda mantenerse hasta llegar a la mejora recursiva”, afirmó Pachocki.
La mejora recursiva de la inteligencia artificial, conocida como RSI por sus siglas en inglés, describe un escenario en el que las máquinas desempeñan un papel cada vez más importante en la investigación y el desarrollo de sistemas de IA más avanzados.
Para Pachocki, este proceso ya no pertenece exclusivamente al terreno de la ciencia ficción.
Una inteligencia que ya supera a los humanos en áreas clave
El científico jefe de OpenAI recordó que la compañía comenzó a observar señales decisivas en 2023, durante un proyecto de investigación llamado RLSlow. Los primeros resultados, explicó, convencieron a los investigadores de que podían escalar el entrenamiento de modelos capaces de razonar y desarrollar sus propias cadenas de pensamiento.
Tres años después, esos sistemas ya forman una parte creciente de la economía y comienzan a ampliar las fronteras de la investigación científica.
Las nuevas IA pueden operar computadoras e interfaces gráficas, colaborar con personas y con otros sistemas de inteligencia artificial, realizar proyectos de investigación y transformar profundamente la seguridad informática.
Sin embargo, ese avance también genera nuevos peligros.
“Estamos entrando en el momento de la historia de la computación en el que la inteligencia de las máquinas está empezando a superar la de los humanos de maneras transformadoras”, sostuvo Pachocki.
Según el investigador, la inteligencia artificial moderna es más “cultivada” que diseñada. Surge de repetir procesos de optimización sobre una cantidad gigantesca de capacidad computacional, creando sistemas extremadamente complejos cuyo funcionamiento global todavía resulta difícil de comprender.
Ese es precisamente uno de los principales problemas.
A medida que los modelos se vuelven más capaces, sus resultados también se vuelven más difíciles de interpretar.
GPT-6 Astra y el desafío de mantener a la IA alineada
Pachocki destacó que GPT-6 Astra representa un avance importante en los esfuerzos de OpenAI por mejorar la alineación de sus modelos.
“GPT-6 Astra es el primer modelo que se beneficia de algunos avances importantes en los que hemos trabajado durante mucho tiempo y está significativamente mejor alineado que GPT-5.6 Sol”, explicó.
La alineación es uno de los grandes desafíos de la inteligencia artificial: conseguir que una máquina actúe de acuerdo con los objetivos, principios y valores humanos.
Pachocki diferencia dos conceptos. El primero es la alineación de objetivos: que la IA intente cumplir correctamente la tarea que se le asigna. El segundo es la alineación de valores, una capacidad mucho más profunda para actuar razonablemente incluso frente a objetivos ambiguos, situaciones nuevas o entornos adversariales.
“Una IA alineada debería actuar con honestidad e integridad, y con amor por la humanidad”, escribió.
Pero el problema fundamental es la generalización.
A medida que las máquinas se vuelven más inteligentes, trabajan sobre conceptos más abstractos y enfrentan situaciones cada vez más diferentes de aquellas presentes durante su entrenamiento. En esos escenarios, pueden no trasladar correctamente los valores aprendidos.
OpenAI reconoce que GPT-6 Astra es un avance, pero Pachocki también dejó claro que todavía falta mucho.
OpenAI reconoce que cada vez es más difícil monitorear el razonamiento de la IA
Uno de los puntos más relevantes del ensayo se refiere a la llamada supervisión de la cadena de pensamiento o chain-of-thought monitoring.
OpenAI considera que observar los procesos de razonamiento verbalizados por los modelos es una herramienta fundamental para comprender cómo toman decisiones y detectar posibles comportamientos peligrosos.
Sin embargo, Pachocki reconoció que esa capacidad de monitoreo está comenzando a deteriorarse.
Los modelos modernos trabajan en entornos más complejos, interactúan con personas, otras IA y herramientas externas. Además, son cada vez mejores para razonar sobre su propio proceso de razonamiento.
Y existe otro problema: los modelos pueden volverse mucho más inteligentes incluso sin utilizar razonamiento verbalizado.
“Nuestras evaluaciones indican que nuestra capacidad para confiar en el monitoreo de la cadena de pensamiento está disminuyendo progresivamente”, admitió.
Para OpenAI, el futuro del desarrollo de la IA podría depender cada vez más de la confianza que los investigadores tengan en su capacidad para monitorear esos sistemas.
Ciberataques, agentes autónomos y nuevas amenazas
Pachocki también dedicó una parte importante de su ensayo a los riesgos de seguridad.
Según explicó, los modelos de inteligencia artificial están acercándose a capacidades sobrehumanas para ingresar y salir de sistemas informáticos.
Esto amplía considerablemente el alcance de los riesgos. Un agente de IA podría acceder a infraestructuras críticas y afectar directamente al mundo digital incluso sin contar con un cuerpo físico.
El científico también advirtió que, a medida que los sistemas ganen autonomía, será cada vez más difícil distinguir entre el mal uso realizado por una persona y las acciones autónomas de una IA mal alineada.
“Estamos acostumbrados a pensar en la IA como herramientas, pero algunos agentes perseguirán sus propios objetivos”, escribió.
Esos sistemas podrían encontrar formas de colaborar con personas mediante negociación, engaño o incluso chantaje.
A estos riesgos se suman posibles tecnologías habilitadas por IA, como nuevos patógenos diseñados artificialmente.
Por eso, Pachocki sostiene que será necesario utilizar inteligencia artificial poderosa y alineada para defender la infraestructura, detectar agentes peligrosos en tiempo real y desarrollar nuevas formas de protección.
La mejora recursiva ya está en el horizonte
Para OpenAI, que las máquinas desempeñen un papel cada vez mayor en su propio desarrollo es una consecuencia natural del progreso tecnológico.
“Si el progreso de la IA continúa, la mejora recursiva de las máquinas estará en el núcleo mismo del futuro descubrimiento científico”, afirmó Pachocki.
OpenAI está orientando parte de su investigación hacia la creación de investigadores de IA automatizados. Pero el científico jefe de la compañía aclaró que esto no significa necesariamente que acelerar al máximo la investigación sea la mejor decisión colectiva.
El desafío, según su visión, consiste en encontrar un equilibrio.
Por un lado, utilizar sistemas cada vez más capaces para resolver problemas de alineación, seguridad y defensa. Por otro, coordinar desaceleraciones voluntarias cuando sea necesario para construir garantías suficientes.
“Escalar los sistemas de IA tiene que estar limitado por nuestra confianza en la seguridad”, afirmó.
Pachocki propuso que compromisos como los marcos de preparación y las políticas de escalamiento responsable evolucionen hacia estándares de seguridad ampliamente obligatorios, supervisados por auditores externos, organismos gubernamentales o instituciones internacionales.
Una advertencia para toda la industria
La conclusión del científico jefe de OpenAI es probablemente la frase más significativa de todo el documento.
“Actualmente creo que ningún laboratorio ha resuelto la alineación y el monitoreo en un grado suficiente como para continuar escalando responsablemente a la máxima velocidad durante mucho más tiempo”, aseguró.
Por eso, espera que las desaceleraciones voluntarias se vuelvan cada vez más habituales hasta que existan estándares de seguridad compartidos.
También considera que la coordinación internacional sobre el desarrollo futuro de la inteligencia artificial debe convertirse en una prioridad para los gobiernos de todo el mundo.
Mientras OpenAI, Anthropic, Google y otras grandes compañías aceleran la competencia por construir sistemas cada vez más inteligentes, la advertencia de Pachocki introduce una contradicción cada vez más evidente: la industria necesita avanzar para desarrollar mejores defensas, pero también necesita saber cuándo dejar de acelerar.
El científico de OpenAI resume así uno de los mayores desafíos tecnológicos de nuestra época: crear máquinas capaces de superar ampliamente la inteligencia humana sin perder el control sobre el futuro que esas mismas máquinas ayudarán a construir.
