Aunque no es novedad, las palabras del desconocido Jacob Coxon genera temor en la sociedad. El joven inglés trabajó durante tres años en OpenAI, cuestionó la carrera por desarrollar una superinteligencia y aseguró que ninguna de las dos compañías tiene hoy mecanismos suficientes para controlarla. Otro investigador de Anthropic respaldó públicamente sus temores.
La carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes abrió una nueva grieta dentro de las propias compañías que están liderando el sector. Jacob Coxon, un investigador británico que trabajó en OpenAI y Anthropic, renunció a esta última después de apenas dos meses y lanzó una advertencia contundente: la industria podría estar avanzando hacia una superinteligencia sin contar todavía con los mecanismos necesarios para controlarla.
Coxon anunció su salida en X y apuntó directamente contra las dos empresas en las que trabajó durante los últimos tres años. “Ninguna de las dos empresas actúa con responsabilidad”, escribió. “Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”, agregó.
La publicación superó las 50 millones de visualizaciones, convirtiendo la salida de Coxon en un nuevo episodio del debate sobre los riesgos asociados con la evolución de los modelos de IA más avanzados.
Pero el cuestionamiento no quedó limitado a un exempleado. Evan Hubinger, investigador de Anthropic que continúa en la compañía y lidera un equipo dedicado a poner a prueba los modelos para detectar comportamientos inesperados o peligrosos, respondió públicamente a Coxon.
“Jacob tiene razón. De verdad creemos que la IA podría matar a todos los humanos”, escribió Hubinger. El investigador agregó que Anthropic “todavía no tiene un plan para alinearnos con una ‘superinteligencia’” y reconoció que tampoco está claro si la compañía llegará a tenerlo.
El concepto de alineación al que se refiere Hubinger constituye uno de los principales desafíos de seguridad de la IA: lograr que un sistema mucho más inteligente que los humanos mantenga objetivos compatibles con los intereses de las personas y no desarrolle comportamientos que sus creadores sean incapaces de controlar.
De OpenAI a Anthropic
Coxon tiene formación en matemáticas y durante los últimos tres años se dedicó al preentrenamiento de modelos de inteligencia artificial, una etapa fundamental en la que estos sistemas procesan enormes cantidades de información para desarrollar sus capacidades.
Según Business Insider, trabajó en el equipo técnico de OpenAI entre 2023 y julio de 2026, donde participó en trabajos relacionados con GPT-4o. Posteriormente se incorporó a Anthropic, aunque su permanencia en la compañía fue de apenas dos meses.
Su experiencia en ambas empresas le permitió comparar sus culturas internas. Según Coxon, en OpenAI muchos investigadores “no internalizaron lo que está en juego para la civilización”.
Su evaluación sobre Anthropic fue diferente, pero terminó siendo igualmente crítica. Afirmó que existe una mayor conciencia sobre los riesgos de la IA, aunque la compañía quedó atrapada en una carrera tecnológica en la que considera que sus competidores tampoco actuarán responsablemente.
Ese dilema es central para los laboratorios que desarrollan IA avanzada: si una compañía reduce el ritmo mientras sus rivales continúan desarrollando modelos más capaces, puede quedar tecnológicamente rezagada. Pero si mantiene la carrera, asume riesgos que sus propios investigadores consideran significativos.
Coxon describió el ingreso a esa etapa como “una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”.
En declaraciones a The Wall Street Journal, además, planteó un horizonte temporal cercano. “Estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control”, afirmó.
Según el investigador, entre sus colegas comenzaron a utilizar expresiones como “hora límite” y “fase final” para describir el momento hacia el que avanzan las capacidades de los modelos.
Una discusión que ya provocó otras renuncias
La salida de Coxon no es un caso aislado dentro de los laboratorios de IA.
En febrero de 2026, Mrinank Sharma, investigador especializado en seguridad de IA en Anthropic, también renunció y publicó una carta en la que reflexionó sobre “lo difícil que es dejar que nuestros valores gobiernen nuestras acciones”.
En 2024, Jan Leike, entonces investigador de seguridad de OpenAI, abandonó la compañía y cuestionó públicamente el lugar que ocupaban las políticas de seguridad frente al desarrollo de productos. Según explicó al anunciar su salida, la seguridad había quedado “en el asiento trasero, frente a los productos brillantes”.
La cuestión también atraviesa a Anthropic en un momento de expansión. En febrero, la compañía presentó una nueva versión de su Política de Escalamiento Responsable, que reemplazó algunos de sus compromisos más estrictos por hojas de ruta con objetivos públicos e informes periódicos sobre los riesgos asociados con sus modelos.
La decisión refleja precisamente la tensión que Coxon cuestiona: reconocer los posibles riesgos de sistemas cada vez más poderosos mientras se mantiene la competencia por desarrollar esos mismos sistemas.
La renuncia llega en plena carrera financiera
La salida de Coxon se produjo además en un momento particularmente sensible para Anthropic, la compañía detrás de Claude.
La empresa prepara su desembarco en Wall Street y, según las apuestas de mercados de predicción mencionadas en el material original, podría alcanzar una valuación de hasta U$S 2 billones y recaudar hasta U$S 100.000 millones en una eventual oferta pública inicial. De concretarse esas cifras, Anthropic quedaría por encima de SpaceX en términos de valuación.
Sin embargo, el calendario sufrió un cambio. El 8 de septiembre, Anthropic retrasó su OPI y avanzó con una línea de crédito de U$S 15.000 millones.
La operación fue encabezada por Morgan Stanley y respaldada por 17 bancos, otorgándole a la compañía mayor margen financiero mientras define los próximos pasos para su eventual debut bursátil.
En ese contexto, las advertencias de Coxon y Hubinger agregan una dimensión adicional a la discusión sobre el futuro de Anthropic. La compañía no solo debe resolver cómo financiar la infraestructura necesaria para competir en la carrera de la IA: también enfrenta el desafío de demostrar que puede controlar los sistemas que está ayudando a construir.
La pregunta que queda abierta es precisamente la que plantean sus propios investigadores: qué ocurre si la velocidad con la que avanza la inteligencia artificial supera la capacidad de sus creadores para entenderla, alinearla y mantenerla bajo control.