Nuestra postura sobre los modelos de ponderación abierta

Un artículo de Dario Amodei, CEO de Anthropic.

En los últimos días se ha hablado mucho sobre los modelos de ponderación abierta, especialmente los de origen chino. Algunos informes sugieren que funcionarios estadounidenses están considerando prohibir el uso de estos modelos por parte de empresas estadounidenses. En respuesta, muchas empresas tecnológicas han firmado una carta en apoyo de los modelos de ponderación abierta, e incluso algunos han acusado a Anthropic de querer prohibirlos para proteger su negocio. Quienes hayan leído mis escritos anteriores sabrán que no considero que tales prohibiciones sean una medida útil, pero quiero dejarlo claro para que no quede ninguna duda: Anthropic nunca ha defendido la prohibición de los modelos de ponderación abierta.

Los modelos de pesos abiertos que no poseen capacidades peligrosas son un bien público: no cuestan nada más que la capacidad de procesamiento necesaria para ejecutarlos y aportan valor a empresas, desarrolladores e investigadores.

Las prohibiciones proteccionistas no resolverían mis preocupaciones más serias en materia de seguridad nacional. En concreto, me preocupan dos escenarios catastróficos. Los expuse en mi ensayo « La adolescencia de la tecnología» hace seis meses¹ ^y he mantenido estas posturas de forma consistente durante muchos años:

1. Mi principal preocupación es el riesgo de que gobiernos autoritarios —no solo el Partido Comunista Chino (PCCh), aunque este último representa claramente la amenaza más capaz— desarrollen modelos de IA más potentes que los creados por Estados Unidos y los utilicen para lograr una superioridad militar permanente o perpetrar una represión sumamente severa contra su propio pueblo. Esta preocupación es compartida por el gobierno estadounidense: el vicepresidente Vance advirtió en París el año pasado que «los regímenes autoritarios han robado y utilizado IA para fortalecer sus capacidades militares, de inteligencia y de vigilancia», y la Evaluación Anual de Amenazas de 2026 de la Comunidad de Inteligencia concluyó que «el sólido progreso de otras potencias mundiales en IA está poniendo en entredicho la competitividad económica y las ventajas de seguridad nacional de Estados Unidos». Es irrelevante si estos modelos se publican con ponderaciones abiertas, y ciertamente irrelevante si son utilizados por empresas estadounidenses. De hecho, el modelo más peligroso podría ser aquel entrenado en secreto y entregado únicamente al Ejército Popular de Liberación para su uso en drones y al Ministerio de Seguridad del Estado para vigilancia y represión.
2. Mi segunda preocupación es el riesgo de que los potentes modelos de IA se utilicen indebidamente para llevar a cabo ciberataques o ataques biológicos, y que presenten graves problemas de alineación . Los modelos con ponderaciones abiertas —independientemente de si provienen de China o de cualquier otro lugar— sí presentan un riesgo potencialmente mayor que los modelos cerrados, ya que es muy difícil aplicarles medidas de seguridad o supervisar su uso, y una vez que se publican las ponderaciones, no se pueden retirar² ^. Sin embargo, prohibir el uso de estos modelos por parte de empresas estadounidenses no resuelve este riesgo, puesto que es improbable que los actores malintencionados sean empresas estadounidenses legítimas. Protegería a las empresas estadounidenses de IA de la competencia, pero ese nunca ha sido mi objetivo.

Para abordar estas preocupaciones, apoyo las siguientes tres medidas, que tanto yo como Anthropic hemos defendido de forma constante:

• No deberíamos vender chips potentes ni equipos para su fabricación a China , y deberíamos reprimir el contrabando ^generalizado y las artimañas para acceder a dichos chips. China tiene una capacidad de producción nacional limitada y, por lo tanto, debido a las leyes de escala , no puede fabricar modelos más potentes que los de EE. UU. sin chips estadounidenses. Esta es la forma más eficiente y directa de bloquear la amenaza n.° 1, y al dificultar el entrenamiento de modelos que están fuera del alcance de la ley estadounidense, también ayuda indirectamente a combatir la amenaza n.° 2.
• Debemos reprimir las operaciones de destilación a escala industrial . La destilación es un proceso computacionalmente mucho más eficiente que entrenar modelos desde cero. Permite a China construir modelos mucho mejores de lo que su número de chips normalmente permitiría, y así eludir parcialmente las prohibiciones de chips. La destilación no permite al PCCh obtener capacidades de IA equivalentes o superiores a las de EE. UU., pero puede acercar la frontera china a la frontera estadounidense en pocos meses . Es cierto que muchas de las empresas que llevan a cabo estas operaciones publican modelos de pesos abiertos, pero los pesos abiertos son mucho menos relevantes que el hecho de que las operaciones estén respaldadas por un estado autoritario que busca superar a EE. UU. en la frontera. Deberíamos tener intervenciones políticas para disuadir este comportamiento. Una prohibición general de los modelos de pesos abiertos no es ni el remedio correcto ni algo que hayamos pedido ⁴ .
• Todos los modelos suficientemente capaces, abiertos y cerrados, deberían someterse a pruebas de seguridad obligatorias. La mejor manera de abordar la amenaza n.° 2 es probar directamente los modelos para detectar riesgos cibernéticos, biológicos y de alineación antes de su lanzamiento. Creo que esta idea está cerca de un consenso: me ha alentado tanto que la administración Trump haya avanzado en esta dirección en los últimos meses, como las recientes propuestas de la industria que aplicarían dichas pruebas a los modelos más capaces, independientemente de su país de origen o de si son abiertos o cerrados (eximiendo por completo a los modelos menos capaces, como los de startups y el ámbito académico). Si los modelos abiertos representan o no un mayor riesgo, y si ese riesgo puede mitigarse, es algo que debería surgir de las pruebas, en lugar de decidirse de antemano; y puede haber métodos prometedores para mejorar la seguridad de los modelos de pesos abiertos, incluyendo investigaciones recientes de AE ​​Studio y Anthropic sobre estrategias de entrenamiento modular . Cabe señalar que, para ser efectivas, las pruebas tendrían que ser globales, lo que significa que incluso el PCCh tendría que estar de acuerdo. Creo que esto podría ser posible: como escribí en «La adolescencia de la tecnología» , una cooperación limitada para prevenir las armas biológicas basadas en IA podría ser posible porque también redunda en interés de China.

Esto me lleva a la carta abierta . Coincido con gran parte de ella: los pesos abiertos amplían el acceso a la economía de la IA, fortalecen la competencia, al menos para algunos casos de uso, y otorgan a los clientes un mayor control. Las preocupaciones sobre la destilación deben abordarse mediante marcos legales y comerciales específicos, la misma medida que describí anteriormente. Sin embargo, no estoy de acuerdo con las afirmaciones de la carta de que los modelos de pesos abiertos necesariamente facilitan el desarrollo de salvaguardias o que el amplio acceso a las capacidades necesariamente beneficia más a los defensores que a los atacantes. Me parece al menos igual de probable que ocurra lo contrario. Por ejemplo, me preocupa que la biología presente una fuerte asimetría entre atacantes y defensores, donde modelos suficientemente capaces podrían convertir rápidamente virus pandémicos en armas con materiales ampliamente disponibles, mientras que la defensa contra estos agentes es, en el mejor de los casos, una tarea operativa de varios años (como vimos con la Operación Warp Speed) ^⁵ . Cuestiones como esta deben responderse empíricamente mediante pruebas rigurosas previas al lanzamiento, no asumirse de antemano.

En resumen, nuestra postura y la de Anthropic es que no hemos defendido ni defenderemos la prohibición de los modelos de peso abierto como categoría. En cambio, deberíamos centrarnos en evitar que los chips potentes caigan en manos autoritarias, detener la destilación a escala industrial y exigir pruebas de seguridad para todos los modelos suficientemente capaces, tanto abiertos como cerrados.

*Edición del 28 de julio: Se ha actualizado para señalar que la investigación citada sobre estrategias de formación modular fue una colaboración entre Anthropic y AE Studio .