Un total de 1.293 empleados de los principales laboratorios de inteligencia artificial firmaron una declaración para solicitar al gobierno de Estados Unidos que impulse mecanismos internacionales que permitan moderar el avance de la IA antes de que la automatización de la propia investigación acelere el desarrollo más allá del control humano.
La carrera mundial por desarrollar inteligencia artificial cada vez más poderosa acaba de sumar un hecho inédito. Un grupo de 1.293 empleados de empresas líderes del sector, entre ellas OpenAI, Anthropic, Google DeepMind, Meta y Safe Superintelligence (SSI), publicó una declaración conjunta en la que advierte que el mundo necesita herramientas para desacelerar deliberadamente el avance de la IA si la tecnología comienza a evolucionar más rápido de lo que la sociedad puede comprender y controlar.
El documento, denominado «Recorriendo la frontera», parte de una preocupación central: los principales laboratorios consideran que la automatización de la investigación en inteligencia artificial podría acelerar drásticamente el progreso de la propia IA.
«La IA podría contribuir a crear un futuro mucho mejor, pero este resultado no está garantizado», señala la declaración. Los firmantes sostienen que existe «un riesgo real de que el desarrollo de capacidades se acelere rápidamente hasta un punto en el que ya no podamos comprender ni controlar los sistemas resultantes».
Un pedido dirigido al gobierno de Estados Unidos
Lejos de reclamar una prohibición del desarrollo tecnológico, el documento solicita al gobierno estadounidense que lidere un esfuerzo internacional para crear herramientas técnicas y mecanismos de gobernanza que permitan regular deliberadamente la velocidad del progreso de la inteligencia artificial.
Según los investigadores, actualmente ninguna empresa ni ningún país tiene incentivos para reducir unilateralmente el ritmo de innovación debido a la intensa competencia internacional. Precisamente por eso consideran necesaria una coordinación global.
«Para aprovechar el potencial de la IA, la industria, el gobierno y la sociedad podrían necesitar la opción de ganar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisión», afirma el texto.
Los principales científicos de la industria respaldan la iniciativa
Entre los firmantes aparecen algunos de los nombres más influyentes del ecosistema mundial de inteligencia artificial.
La declaración cuenta con el respaldo de Jakub Pachocki, científico jefe de OpenAI; Jared Kaplan, cofundador y director científico de Anthropic; Shengjia Zhao, científico jefe de Meta AI; Shane Legg, cofundador y científico jefe de IA General en Google DeepMind; Ilya Sutskever, CEO de Safe Superintelligence; Mark Chen, director de Investigación de OpenAI; Dario Amodei, CEO de Anthropic; Jack Clark, cofundador y director de Beneficio Público de Anthropic; Anca Dragan, vicepresidenta de Seguridad y Alineación de IA de Google; Wojciech Zaremba, responsable de Resiliencia de IA en la Fundación OpenAI, además de investigadores de prácticamente todos los laboratorios de frontera.
El documento aclara que todas las adhesiones fueron realizadas a título personal y no representan necesariamente la posición oficial de las compañías donde trabajan los firmantes.
El temor a una aceleración fuera de control
Varios investigadores aprovecharon la publicación para explicar públicamente sus razones.
La investigadora Laura Weidinger, de Google, afirmó que después de diez años trabajando en inteligencia artificial continúa sorprendida por la velocidad del progreso tecnológico.
«He trabajado en inteligencia artificial durante una década. En los últimos años, cada pocos meses me he sorprendido una y otra vez por la rapidez con la que avanza la tecnología. La IA podría progresar mucho más rápido de lo que las sociedades y los Estados pueden adaptarse», sostuvo.
Por su parte, Stephanie Chan, investigadora de Google, destacó el salto tecnológico producido en apenas cuatro años.
«En el lapso de cuatro años hemos pasado de que las personas tuvieran su primera experiencia con una IA capaz de comprender el lenguaje a sistemas que realizan proezas sobrehumanas en ingeniería de software, logran avances matemáticos de frontera y aceleran la investigación científica», afirmó.
Riesgos crecientes en ciberseguridad
Uno de los argumentos más repetidos entre los firmantes es el impacto que la inteligencia artificial ya comienza a tener sobre la ciberseguridad.
El documento menciona que herramientas como CyberGym y ExploitGym muestran que los agentes de IA de última generación ya son capaces de descubrir y explotar vulnerabilidades reales de software, una capacidad que, sin salvaguardas adecuadas, podría facilitar ciberataques a gran escala.
En la misma línea, Shantanu Jain, miembro del personal técnico de OpenAI, advirtió que el progreso no muestra señales de desaceleración y que tanto empresas como países tienen fuertes incentivos para continuar acelerando el desarrollo.
Coordinación antes que prohibiciones
La declaración no propone detener la investigación ni limitar el acceso a la inteligencia artificial. Su objetivo es promover mecanismos internacionales de coordinación que permitan responder colectivamente si la automatización de la investigación acelera el desarrollo más allá de la capacidad de supervisión humana.
La iniciativa cuenta con el respaldo organizativo de las organizaciones independientes Guidelight AI Standards y Encode AI, y permanece abierta para que empleados de empresas dedicadas al desarrollo de inteligencia artificial de frontera puedan sumarse utilizando sus credenciales corporativas.
En un contexto en el que la competencia entre Estados Unidos y China por el liderazgo en IA se intensifica, el documento refleja una preocupación cada vez más extendida dentro de los propios laboratorios que impulsan esta revolución tecnológica: cómo mantener el ritmo de la innovación sin perder la capacidad de gobernarla.