Anthropic advierte sobre una IA capaz de mejorarse sola: “Podría llegar antes de lo que el mundo está preparado”

La compañía detrás de Claude aseguró que la inteligencia artificial ya acelera el desarrollo de nuevos sistemas de IA y alertó sobre un posible escenario de “auto-mejora recursiva”, donde los modelos podrían diseñar sus propios sucesores sin intervención humana.

La carrera global por la inteligencia artificial acaba de entrar en una nueva etapa. Anthropic, una de las compañías líderes del sector y creadora del modelo Claude, publicó un extenso informe donde asegura que la IA ya está participando activamente en el desarrollo de nuevos sistemas de inteligencia artificial y que, en el futuro, podría llegar a diseñar versiones más avanzadas de sí misma sin ayuda humana.

El documento, elaborado por The Anthropic Institute, plantea un escenario que hasta hace pocos años pertenecía más al terreno de la ciencia ficción que al de la ingeniería real: la llamada “recursive self-improvement” o auto-mejora recursiva. En otras palabras, una IA capaz de construir una IA mejor, que luego podría repetir el proceso indefinidamente.

“Todavía no estamos ahí, y la auto-mejora recursiva no es inevitable. Pero podría llegar antes de lo que la mayoría de las instituciones están preparadas”, señaló Anthropic.

La advertencia no llega desde un laboratorio marginal. Anthropic es actualmente una de las empresas más influyentes del ecosistema de IA generativa, respaldada por gigantes como Amazon y Google, y considerada una de las principales competidoras de OpenAI.

Claude ya escribe la mayoría del código de Anthropic

Uno de los datos más impactantes del informe es que más del 80% del código que actualmente se incorpora al software interno de Anthropic fue escrito por Claude.

Según la compañía, antes del lanzamiento de Claude Code en febrero de 2025, ese número apenas representaba “un porcentaje de un solo dígito”. Hoy, la productividad de los ingenieros se multiplicó por ocho respecto de 2024.

“En el segundo trimestre de 2026, el ingeniero típico integró ocho veces más código por día que en 2024”, explicó Anthropic.

La empresa aclara que medir productividad por líneas de código no es perfecto, pero asegura que el fenómeno refleja una aceleración real en los procesos de desarrollo.

En la práctica, el rol humano cambió drásticamente. Los ingenieros ya no escriben gran parte del código manualmente: supervisan, revisan y orientan sistemas autónomos que realizan tareas cada vez más complejas.

“Hace unos cinco meses que no escribo código yo mismo”, confesó un empleado de Anthropic citado en el documento.

De asistentes a investigadores autónomos

Anthropic sostiene que los modelos actuales ya no se limitan a sugerir fragmentos de código. Ahora pueden ejecutar tareas completas, corregir errores, lanzar pruebas y administrar procesos complejos de manera autónoma.

La compañía mostró ejemplos concretos. En uno de ellos, Claude identificó y solucionó un problema crítico que afectaba miles de procesos de entrenamiento de modelos de IA. El trabajo demandó apenas dos horas, cuando un ingeniero humano habría necesitado entre dos y tres días.

En otro caso, Claude realizó más de 800 correcciones automáticas para resolver errores de API, una tarea que, según la empresa, habría llevado cerca de cuatro años de trabajo humano.

Anthropic también afirma que Claude ya alcanza o supera a investigadores humanos en determinadas tareas experimentales bien definidas. Un benchmark interno mostró que Claude Mythos Preview logró acelerar 52 veces el rendimiento de un sistema experimental de entrenamiento de IA, frente a mejoras cercanas a 4 veces obtenidas por investigadores humanos expertos.

“La forma en que funcionan las cosas hoy es que los humanos tienen ideas y los modelos pueden implementarlas, probarlas y evaluarlas diez veces más rápido”, explicó uno de los investigadores de Anthropic.

El cuello de botella ahora son los humanos

El informe plantea una paradoja inesperada: la velocidad de la IA ya está comenzando a superar la capacidad humana de supervisarla.

Anthropic asegura que, a medida que Claude produce más código y más experimentos, los procesos humanos de revisión empiezan a transformarse en el nuevo cuello de botella.

“Una vez que la calidad del código generado por IA alcanza la paridad con la humana, las personas dejarán de escribir código por completo y pasarán únicamente a revisarlo”, sostiene la compañía.

El problema es que incluso la revisión humana podría resultar demasiado lenta frente al ritmo de producción de sistemas autónomos.

La empresa afirma que actualmente Claude ya detecta errores que antes pasaban inadvertidos incluso para algunos de los mejores ingenieros del mundo. Un análisis retrospectivo realizado por Anthropic mostró que un sistema automatizado de revisión basado en Claude podría haber evitado aproximadamente un tercio de los fallos que llegaron a producción en claude.ai.

Un futuro incierto para la economía y el trabajo

El informe también explora las posibles consecuencias económicas y sociales de esta evolución.

Anthropic plantea que empresas de apenas 100 personas podrían realizar el trabajo equivalente al de organizaciones de 10.000 o incluso 100.000 empleados gracias al uso intensivo de agentes de IA.

La compañía considera que esto podría revolucionar la productividad global, acelerar descubrimientos científicos y transformar sectores como la salud, la investigación médica y la ingeniería.

Pero también advierte sobre riesgos significativos.

“Una IA que pueda construirse a sí misma sería uno de los mayores desarrollos en la historia de la tecnología”, explicó Anthropic. “Pero también podría aumentar los riesgos de que los humanos pierdan el control sobre estos sistemas”.

La empresa teme especialmente escenarios donde los modelos comiencen a desarrollar comportamientos desalineados difíciles de detectar mientras diseñan nuevas generaciones de IA más avanzadas.

Anthropic pide coordinación global y posibles pausas

Quizás el aspecto más llamativo del informe es que Anthropic considera que el mundo debería tener la capacidad de ralentizar o incluso pausar temporalmente el desarrollo de IA avanzada si fuera necesario.

“Creemos que sería bueno para el mundo tener la opción de desacelerar o pausar temporalmente el desarrollo de IA de frontera”, indicó la compañía.

Sin embargo, Anthropic reconoce que un freno unilateral tendría poco impacto real si otros actores continúan avanzando. Por eso propone crear mecanismos internacionales de verificación similares a los tratados de control nuclear.

El desafío, según la empresa, es enorme. A diferencia de los misiles o instalaciones nucleares, los entrenamientos de IA son mucho más difíciles de detectar y ocultar.

Mientras tanto, Anthropic considera que la ventana para debatir estas cuestiones se está cerrando rápidamente.

“El momento para investigar estas preguntas juntos es ahora”, concluyó la compañía.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

WP to LinkedIn Auto Publish Powered By : XYZScripts.com