Sam Altman y Dario Amodei advirtieron ante el Consejo de Seguridad de la ONU que una IA sin controles podría generar riesgos para la humanidad. Washington rechazó frenar el desarrollo y pidió priorizar los beneficios tecnológicos frente a la competencia con China.
Los máximos responsables de algunas de las compañías que están construyendo la inteligencia artificial más avanzada del mundo llevaron esta semana una advertencia al Consejo de Seguridad de las Naciones Unidas: la tecnología que desarrollan necesita mecanismos internacionales de control antes de que resulte demasiado poderosa para ser contenida.
Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, participaron el miércoles de una reunión del organismo durante la 81ª sesión de la Asamblea General de la ONU. También intervino, mediante una conexión remota que presentó problemas técnicos, Clément Delangue, CEO de Hugging Face.
Amodei planteó uno de los escenarios más preocupantes: “Si se gestiona mal, incluso creo que la IA podría representar un riesgo para la humanidad en su conjunto”.
Altman expresó una advertencia similar. “Podríamos perder el control del futuro frente a la IA”, afirmó el CEO de OpenAI.
Ambos ejecutivos coincidieron en que los países deberían establecer mecanismos de protección para impedir que la tecnología alcance niveles de poder difíciles de controlar. También reclamaron evitar que la capacidad de la inteligencia artificial quede concentrada en una sola compañía o país.
Al mismo tiempo, los dos líderes destacaron el potencial positivo de la tecnología. Altman habló de la posibilidad de utilizar la IA para “dar a las personas más poder sobre sus propias vidas”.
El debate llega al corazón de la ONU
La intervención de los ejecutivos tecnológicos se produjo en un momento en el que gobiernos y organismos internacionales intentan definir quién debería establecer las reglas para la inteligencia artificial y cómo deberían aplicarse.
El secretario de Relaciones Exteriores británico, Ed Miliband, sostuvo que los líderes tecnológicos están diciendo de manera contundente que la prevención de una catástrofe no puede quedar exclusivamente en manos de las propias compañías.
“No podemos ignorarlos porque tienen razón”, afirmó Miliband durante la reunión.
El Reino Unido, que presidirá el G20 el próximo año, anticipó que colocará el control de la IA en el centro de sus discusiones y buscará impulsar un conjunto de estándares globales para garantizar que el desarrollo de la tecnología sea seguro.
La posición estadounidense fue diferente.
Michael Kratsios, asesor científico de la Casa Blanca, sostuvo que las preocupaciones sobre el control de la IA “no son una razón para pausar su desarrollo ni para limitarlo mediante una nueva estructura de gobernanza global”.
“Queremos que ustedes, nuestros aliados y socios, compartan los beneficios de esta tecnología”, afirmó.
La diferencia refleja también la competencia entre Estados Unidos y China por el liderazgo en inteligencia artificial.
El embajador chino ante la ONU, Fu Cong, defendió que todos los países deberían poder elegir las tecnologías de IA que consideren adecuadas. También cuestionó la posibilidad de que las grandes potencias obliguen a otros países a tomar partido.
Fu Cong pidió evitar “formar un pequeño bloque de nosotros contra ellos en el sector tecnológico y obligar a otros países a tomar partido”, y reclamó promover modelos de código abierto, una orientación que identificó con el enfoque de China.
Armas biológicas, robots autónomos y decisiones de vida o muerte
Uno de los principales puntos de preocupación planteados ante el Consejo de Seguridad fue el uso de inteligencia artificial en aplicaciones militares y biológicas.
Amodei pidió a los gobiernos acordar que la IA no pueda utilizarse para construir armas biológicas. También reclamó mecanismos para verificar las capacidades reales de los modelos y “establecer estándares comunes” para las pruebas, así como para situaciones de pérdida de control y uso indebido.
El ministro de Relaciones Exteriores de Francia, Jean-Noël Barrot, comparó el momento actual con dos antecedentes históricos y culturales: la computadora HAL9000 de la película 2001: Una odisea del espacio y el comienzo de la era atómica.
“Al igual que ocurrió entonces con el átomo, la comunidad internacional debe regular ahora la IA para aprovechar al máximo su potencial y evitar lo peor”, afirmó Barrot.
El debate también llegó al terreno de los sistemas autónomos utilizados en conflictos armados. El presidente ucraniano Volodymyr Zelenskyy sostuvo que algún tipo de control humano sobre las máquinas debe establecerse pronto.
“Ya existe una posibilidad real de que la IA, y no solamente las personas, comience a decidir qué sucede en el campo de batalla. Y necesitamos la paz antes de llegar a ese punto”, afirmó.
El profesor de tecnología de la información de la Universidad de Michigan Kentaro Toyama sostuvo que los denominados robots asesinos ya son técnicamente fáciles de construir y afirmó que “son reales”.
La científica de datos Rumman Chowdhury, cofundadora de la organización Humane Intelligence, llevó la discusión a una cuestión más concreta: “¿Quién autorizó a una máquina a seleccionar y atacar un objetivo, bajo qué restricciones y quién responde por el resultado?”.
Estados Unidos y China buscan la ventaja
La discusión en Naciones Unidas coincidió con la visita del presidente chino Xi Jinping a Washington para reunirse con el presidente estadounidense Donald Trump.
La inteligencia artificial forma parte de la agenda estratégica entre ambas potencias. El secretario del Tesoro estadounidense, Scott Bessent, había señalado previamente que ambos países discutieron un posible “mecanismo de notificación” para incidentes de IA que puedan afectar la seguridad nacional.
Sin embargo, Trump sostuvo el martes una posición contraria a los pedidos de mayores controles. El presidente estadounidense calificó a la IA como “superinteligencia” y afirmó que Estados Unidos rechazaría los esfuerzos destinados a controlar la tecnología mientras intenta ganar la carrera de desarrollo frente a China.
El debate internacional queda así atravesado por una contradicción central: los líderes de algunas de las compañías que desarrollan la tecnología más avanzada reclaman reglas para limitar sus riesgos, mientras Estados Unidos considera que nuevas estructuras globales de gobernanza podrían afectar su capacidad para competir.
Al mismo tiempo, Europa, Asia y otras regiones avanzan con sus propios mecanismos de coordinación, mientras distintos países —e incluso estados dentro de Estados Unidos— desarrollan políticas específicas para regular la inteligencia artificial.
La pregunta que llegó al Consejo de Seguridad de la ONU ya no es solamente qué puede hacer la IA, sino quién tendrá autoridad para decidir hasta dónde puede llegar.