El CEO de Google DeepMind pidió crear un organismo liderado por Estados Unidos para evaluar los modelos de inteligencia artificial más potentes antes de su lanzamiento y advirtió que la sociedad dispone de una «ventana de tiempo» cada vez más corta para prepararse.
El debate sobre la regulación de la inteligencia artificial acaba de sumar una de las voces más influyentes de la industria. Demis Hassabis, CEO de Google DeepMind y ganador del Premio Nobel, propuso la creación de un organismo liderado por Estados Unidos que evalúe los modelos de inteligencia artificial más avanzados antes de que lleguen al mercado, con el objetivo de detectar riesgos para la seguridad nacional y establecer estándares internacionales.
La iniciativa llega apenas semanas después de que el gobierno estadounidense prohibiera la exportación de los modelos más avanzados de Anthropic y en medio de crecientes advertencias sobre el impacto que la IA podría tener en la economía global, la ciberseguridad y sectores estratégicos.
En un ensayo publicado en la red social X, Hassabis sostuvo que la velocidad con la que evoluciona la inteligencia artificial exige una respuesta regulatoria completamente nueva.
«Ya hemos visto los desafíos que los modelos de frontera plantean para la ciberseguridad, y pronto podrían surgir otras amenazas relacionadas con riesgos nucleares y biológicos a medida que las capacidades continúan avanzando», escribió.
Un organismo inspirado en los mercados financieros
El máximo responsable de Google DeepMind considera que Estados Unidos reúne las condiciones técnicas y económicas para liderar este esfuerzo.
«El rápido progreso que estamos observando en inteligencia artificial requiere un nuevo enfoque para evaluar las capacidades de los modelos de frontera que sea dinámico, adaptable y riguroso. Estados Unidos está bien posicionado, dada su capacidad económica y tecnológica, para dar el primer paso en el desarrollo de ese marco», afirmó.
Su propuesta consiste en crear una organización similar a la Financial Industry Regulatory Authority (FINRA), la entidad autorregulada que supervisa los mercados financieros estadounidenses para proteger a los inversores.
Ese organismo tendría la responsabilidad de evaluar todos los modelos considerados «frontier-class», tanto de código abierto como propietarios, sin importar el país donde hayan sido desarrollados.
Además de analizar sus capacidades, la entidad debería someter a pruebas los sistemas de seguridad incorporados por los desarrolladores para comprobar si realmente son capaces de impedir usos peligrosos.
El planteo guarda relación con uno de los episodios recientes más relevantes del sector. Un informe de Amazon detectó que las barreras de seguridad del modelo Mythos, desarrollado por Anthropic, podían ser vulneradas, una situación que contribuyó a la decisión del gobierno estadounidense de restringir su exportación.
Hacia estándares internacionales
Aunque la propuesta parte de una iniciativa estadounidense, Hassabis sostiene que el objetivo final debería ser mucho más amplio.
«Este esfuerzo iniciado por Estados Unidos proporcionaría un sólido punto de partida para crear estándares internacionales compartidos sobre la inteligencia artificial de frontera», señaló.
Y agregó que esa iniciativa debería «impulsar a la comunidad internacional a alcanzar un consenso sobre la regulación de la inteligencia artificial».
Un debate que gana fuerza
Las declaraciones del CEO de Google llegan en un contexto donde otros líderes del sector también reclaman mayores controles.
El CEO de Anthropic, Dario Amodei, viene promoviendo regulaciones más estrictas, incluyendo la posibilidad de que el gobierno pueda bloquear el despliegue de sistemas considerados inseguros.
Por su parte, OpenAI aceptó recientemente escalonar el lanzamiento de GPT-5.6 luego de pedidos realizados por el gobierno de Estados Unidos.
Durante la última reunión del G7, ejecutivos de las principales compañías tecnológicas también solicitaron una estrategia coordinada entre los gobiernos para abordar los desafíos de seguridad que plantea la inteligencia artificial.
El tema cobra todavía mayor relevancia mientras los modelos desarrollados en China continúan reduciendo la distancia tecnológica con Estados Unidos. Empresas como Z.ai y DeepSeek ya ofrecen modelos abiertos que, según diversos analistas, comienzan a competir con los desarrollos estadounidenses de última generación.
«Una ventana de tiempo preciosa»
Más allá de sus propuestas regulatorias, Hassabis mantiene una visión optimista sobre el potencial de la inteligencia artificial.
Considera que la tecnología puede acelerar descubrimientos científicos de enorme impacto en áreas como la medicina y la energía, aunque insiste en que la sociedad dispone de poco tiempo para prepararse adecuadamente.
Según el investigador, la inteligencia artificial general (AGI), capaz de igualar las capacidades cognitivas humanas, podría estar «a solo unos pocos años de distancia».
Por eso insiste en aprovechar la «preciosa ventana de tiempo» disponible para construir mecanismos de supervisión antes de que la tecnología alcance un nivel aún más disruptivo.
«La magnitud del impacto de esta tecnología no tendrá precedentes, quizás diez veces mayor que la Revolución Industrial y avanzando diez veces más rápido», afirmó.
Y concluyó con una reflexión que resume tanto el asombro como la responsabilidad que, a su juicio, enfrenta la humanidad.
«Si uno se detiene a pensarlo, esencialmente hemos encontrado la forma de hacer que la arena piense. Es algo milagroso», escribió.