Por Dario Amodei, Junio de 2026
En una de las tramas secundarias de El Señor de los Anillos , dos hobbits intentan convencer a Bárbol —un árbol sensible, sabio pero algo lento— para que defienda su bosque de un ejército que lo está talando. El problema es que Bárbol funciona a un ritmo muy diferente al de los hobbits. Le lleva un día entero simplemente saludar a otro árbol, así que lograr que él y sus compañeros actúen con la suficiente rapidez es prácticamente imposible.
La intersección entre la IA y nuestras instituciones políticas recuerda un poco a la historia de los hobbits y Bárbol. La IA avanza a pasos agigantados: en solo cuatro años, los modelos de IA han pasado de apenas poder escribir una línea de código coherente a escribir la mayor parte del código en las principales empresas de IA . Se han logrado avances similares en biología, física, matemáticas, finanzas, derecho, traducción y muchos otros campos. Las leyes de escalamiento de la IA , que predicen un aumento exponencial de las capacidades cognitivas generales con el incremento de la potencia de cálculo, cuentan ahora con más de una década de evidencia empírica. Si estas leyes de escalamiento se mantienen durante uno o dos años más, es probable que lleguemos a lo que he denominado IA poderosa, o « un país de genios en un centro de datos ».
Por el contrario, las políticas —y especialmente la legislación— avanzan con mucha lentitud. A menudo, esto se debe a buenas razones: los gobiernos tienen poderes trascendentales y, por lo general, es mejor que no se utilicen con demasiada precipitación. Sin embargo, la disparidad en los plazos resulta muy preocupante: en los varios años que puede tardar el Congreso en actuar, la IA puede pasar de ser un juguete divertido a convertirse en un país repleto de genios.
En los últimos años, desde que la IA se convirtió en una tecnología comercial importante, quienes deseábamos manejarla con responsabilidad nos enfrentamos a un dilema. Podíamos ver claramente hacia dónde se dirigía el crecimiento exponencial: sospechábamos firmemente que, en pocos años, la IA sería una de las pocas tecnologías que transformarían radicalmente todo el panorama político, del mismo modo que las armas nucleares transformaron la geopolítica y la revolución industrial transformó radicalmente todos los aspectos económicos y sociales. Pero para quienes solo veían lo que la IA podía hacer en ese momento , parecía una tecnología mucho más común, similar quizás a la última aplicación de consumo o criptomoneda. Era difícil convencer a la mayoría de los responsables políticos y a las empresas de que cualquier otra actitud que no fuera de no intervención tuviera sentido. Y, para ser justos, el hecho de que los efectos radicales de la IA aún no se hubieran manifestado, y que no supiéramos exactamente qué forma adoptarían, dificultó el diseño de las políticas adecuadas, incluso si hubiera existido la voluntad de actuar.
Dadas las limitaciones impuestas por esta situación, muchos defensores de la seguridad (incluido Anthropic) se han centrado hasta ahora en promover políticas que preserven la flexibilidad, preparen una respuesta rápida en el futuro o brinden al mundo una mejor comprensión de lo que se avecina, como legislación sobre transparencia, controles de exportación de chips y recopilación de datos sobre los efectos de la IA en el ámbito laboral. Si bien estas medidas no son suficientes, parecían ser las únicas posibles.
En los últimos meses, sin embargo, la evidencia del increíble poder de la IA, así como de sus riesgos, se ha vuelto innegable. Quizás el ejemplo más emblemático sea Claude Mythos Preview y el descubrimiento de que los modelos de vanguardia plantean riesgos muy reales para la ciberseguridad, creando el potencial de disrupción del sector financiero, la infraestructura crítica y la seguridad nacional. Mythos Preview trastocó el panorama global de la ciberseguridad. Pero su importancia más amplia radica en que demuestra sin lugar a dudas que los modelos de IA son ahora herramientas de trascendencia estratégica global y nacional. Los riesgos cibernéticos que presentan los modelos de la clase Mythos no serán los últimos a los que tendremos que enfrentarnos. Creo que pronto podrían seguir los riesgos biológicos, y que los graves riesgos de autonomía de la IA podrían no estar muy lejos.
Ahora, a nivel global y colectivo, necesitamos activar un aparato político lento y frágil para abordar los riesgos y las oportunidades que se multiplicarán con sorprendente rapidez a partir de ahora. Muchos responsables políticos están mostrando una mayor disposición a actuar, y ha sido alentador ver que nuestros colegas adoptan las mismas posturas que hemos defendido en los últimos años. Esto es positivo, pero me preocupa que estas primeras acciones estén desfasadas al menos un año con respecto al rápido avance de la IA. Este ensayo pretende subsanar esa brecha: explicar dónde se encuentra ahora el crecimiento exponencial y la acción colectiva necesaria para afrontar el momento.
Me centraré en cinco áreas políticas fundamentales que requieren una revisión en el mundo de la IA: regulación y seguridad pública, macroeconomía y política fiscal, innovación científica, equilibrio de poder entre el Estado y la sociedad, y geopolítica. Hablaré principalmente en términos de política estadounidense, dado que Anthropic es una empresa estadounidense, pero la mayoría de mis recomendaciones también son relevantes para el resto del mundo.
Junto con este ensayo, Anthropic presenta una propuesta legislativa sobre la experimentación con modelos innovadores y un marco político para abordar el desplazamiento laboral, para lo cual nos proponemos brindar un importante respaldo financiero. Planeamos hacer mucho más en el futuro, pero consideramos que estos son los primeros pasos para demostrar nuestra seriedad.
1. Regulación y seguridad pública
Cada nueva tecnología o producto tiene usos tanto beneficiosos como perjudiciales, lo que plantea un dilema entre innovación y seguridad. La regulación de los productos reduce la probabilidad de que causen daño y ha desempeñado un papel importante en la mejora de la vida en todo el mundo, pero también puede disminuir directamente sus beneficios y desincentivar indirectamente la innovación. Además, cabe mencionar, desde la perspectiva de Hayek , que los reguladores a menudo carecen de la información necesaria para tomar las decisiones correctas sobre complejas disyuntivas económicas, por lo que la regulación suele ser ineficaz y engorrosa. Una idea relacionada es el dilema de Collingridge , que afirma que los impactos de una tecnología suelen ser difíciles de prever hasta que es demasiado tarde para gestionarlos fácilmente.
Estas dinámicas fueron cruciales para la IA en 2023-2024. Para Anthropic, era evidente que la IA podría, en el futuro, ser capaz de producir armas biológicas que amenazaran a millones de personas, o comportamientos autónomos maliciosos que, en casos extremos, incluso podrían amenazar a la propia humanidad. Menos claro era la forma exacta en que se manifestarían los riesgos, la mejor manera de evaluarlos y mitigarlos, y cómo se desarrollarían en la práctica. Por lo tanto, existía un alto riesgo de que la legislación redactada con antelación resultara ineficaz, creando requisitos de cumplimiento inútiles o de escaso valor, sin tener en cuenta las fuentes más cruciales de riesgo real.
En última instancia, concluimos que el enfoque adecuado en ese momento era la transparencia . Los desarrolladores de modelos de IA deberían divulgar sus procedimientos de seguridad y las pruebas que realizan en sus modelos, e informar sobre cualquier incidente crítico de seguridad, para que el público y la comunidad científica pudieran tener una mejor visión de los riesgos a medida que surgen. Cuando los riesgos se vuelven más definidos y su naturaleza es más clara, la evidencia obtenida a través de la transparencia podría usarse para diseñar una legislación inteligente que aborde con precisión los riesgos más preocupantes. Por lo tanto, en 2025, Anthropic apoyó la legislación de transparencia, ayudando a aprobar la SB 53 en California, RAISE en Nueva York, SB 315 en Illinois (a principios de 2026), y abogando por un estándar de transparencia a nivel federal .
Sin embargo, ahora los riesgos son evidentes . Es hora de ir más allá de la transparencia y avanzar hacia una regulación más seria y vinculante de la IA. Creo que la mejor analogía, al menos en la etapa actual de crecimiento exponencial, es la de los automóviles, los aviones o las drogas: tecnologías poderosas esenciales para la economía moderna, pero capaces de causar la muerte de un gran número de personas si se diseñan u operan de forma deficiente. Por lo tanto, creo que deberíamos basar la regulación de la IA en agencias como la Administración Federal de Aviación (FAA). Los modelos de IA de vanguardia, al igual que los aviones, deberían someterse a pruebas técnicas y auditorías, y su lanzamiento debería bloquearse o revertirse por considerarse una amenaza para la seguridad pública si no cumplen con altos estándares de seguridad. Agradezco que la Orden Ejecutiva de la administración Trump avance gradualmente hacia un mayor papel del gobierno en la IA, aunque la propuesta de Anthropic recomienda medidas aún más contundentes. Nuestra propuesta incluye los siguientes elementos:
- Los modelos que superen un determinado umbral de capacidad de cómputo deberán someterse a pruebas obligatorias por parte de un tercero cualificado para evaluar su nivel de riesgo en cuatro áreas específicas: ciberseguridad, armas biológicas, pérdida de control de los sistemas de IA e I+D automatizada que podría acelerar estos otros riesgos.
- El gobierno debería tener la facultad de bloquear o impedir la implementación del modelo si, tras una evaluación independiente, se determina que presenta riesgos inaceptables. Esta facultad debe limitarse a los cuatro riesgos específicos mencionados anteriormente y deben existir medidas de protección contra el favoritismo político o las decisiones arbitrarias.
- La evaluación por terceros podría ser realizada por una agencia gubernamental (similar a la FAA) o por un conjunto de organizaciones privadas autorizadas e inspeccionadas por el gobierno para evaluar modelos de acuerdo con ciertos estándares (un enfoque de » mercados regulados «).
- Las empresas de IA que desarrollan modelos avanzados de inteligencia artificial deben contar con sólidos estándares de seguridad que protejan la ponderación de sus modelos, realizar pruebas de penetración y de simulación de ataques (red teaming) de forma regular y colaborar con el gobierno para defenderse de los principales actores que representan una amenaza.
- Los incidentes de seguridad en las cuatro áreas críticas deben ser reportados de inmediato.
Puede que llegue un momento, quizás relativamente pronto, en que tengamos que ir más allá, cuando los sistemas de IA más potentes se parezcan menos a aviones o automóviles y más a materiales nucleares susceptibles de convertirse en armas: una amenaza para la humanidad en lugar de «solo» una amenaza para la seguridad pública. Si eso ocurre, puede que necesitemos medidas regulatorias más agresivas que las que he expuesto .Pero así como en 2024 fue difícil definir y aplicar las medidas que sugiero ahora, no creo que debamos precipitarnos. Debemos diseñar políticas para los peligros que están surgiendo hoy, al tiempo que sentamos las bases para intensificar nuestra respuesta aún más rápidamente a medida que aparezcan nuevos peligros.
2. Macroeconomía y política fiscal
Los gobiernos se han enfrentado durante mucho tiempo al problema de cómo fomentar el crecimiento económico al tiempo que prestan servicios públicos esenciales y garantizan la atención a los más desfavorecidos. Una premisa importante (y generalmente acertada) de estos debates ha sido que el crecimiento económico es frágil y difícil de lograr ; que si bien la reducción de la desigualdad puede aportar beneficios importantes, debe sopesarse con el lastre económico que suponen el aumento de los impuestos o los déficits.
Sospecho que una IA potente podría desbaratar esta premisa. Si la IA logra realizar la mayoría de las tareas cognitivas mucho mejor que los humanos, es lógico pensar que podría generar un crecimiento económico extremadamente rápido y sólido mediante la aceleración de la ciencia, la tecnología y la eficiencia operativa. La capacidad iterativa de la IA para crear una IA aún mejor podría potenciar aún más ese crecimiento. Pero, por las mismas razones, la IA también podría actuar como un sustituto económico más general de las capacidades cognitivas humanas que las tecnologías anteriores, a la vez que transforma la economía mucho más rápidamente. Por lo tanto, es razonable pensar que la IA podría producir disrupciones mucho mayores en el mercado laboral que las tecnologías anteriores y, potencialmente, disrupciones más duraderas . Corremos el riesgo de terminar en un mundo donde el equilibrio económico se estanca en el hipercrecimiento y la hiperdesigualdad, y es potencialmente muy difícil revertirlo. El desafío clave en un mundo así no será incentivar el crecimiento, sino encontrar la manera de que todos compartan los beneficios.
De los temas tratados en este ensayo, la macroeconomía y el desplazamiento laboral persistente son, sin duda, los que han atraído mayor atención pública y mayor malentendido, por lo que quiero ser extremadamente claro en dos puntos.
En primer lugar, el desplazamiento laboral prolongado es indeseable y peligroso, y debemos hacer todo lo posible para minimizarlo o prevenirlo, no para provocarlo. He advertido sobre el desplazamiento laboral en entrevistas y ensayos porque quiero que tanto los responsables políticos como el sector privado tengan la mejor oportunidad de adaptarse y responder, no porque pretenda ser un profeta de la fatalidad. Como empresa, Anthropic siempre se esfuerza al máximo por colaborar con los clientes para encontrar nuevos casos de uso creativos y nuevas fuentes de ingresos que les permitan optimizar su plantilla actual, en lugar de centrarse únicamente en el ahorro de costes (lo que a menudo implica reducir la plantilla). También buscamos constantemente nuevos paradigmas de interacción que permitan a los humanos desempeñar un papel lo más activo posible en la colaboración con los sistemas de IA a medida que estos avanzan. En términos más generales, es valioso para todo el mundo experimentar con el uso de la IA de tantas maneras nuevas como sea posible, ya que es la forma en que la sociedad puede descubrir nuevas configuraciones laborales. Creo que la IA propiciará numerosas oportunidades económicas nuevas. He predicho que la IA permitirá a individuos crear empresas multimillonarias, y ya estamos viendo equipos de tan solo unas pocas personas construir negocios con cientos de millones en ingresos. Pero al mismo tiempo, debemos reconocer que existe una buena posibilidad de que, a pesar de todos nuestros esfuerzos, la IA siga causando una pérdida de empleos significativa y duradera, y que esto puede ser una propiedad intrínseca de la tecnología y de la forma en que replica ampliamente la cognición humana.
En segundo lugar, cualquier respuesta al desplazamiento laboral provocado por la IA debe abordar tanto la necesidad de garantizar el bienestar económico de todos como la necesidad de que las personas encuentren significado, propósito y autonomía. Esto último es, en última instancia, más importante y depende de preguntas profundas sobre cómo se organiza la sociedad, a qué deberían aspirar las personas y qué constituye una buena vida. De hecho, soy muy optimista de que, incluso en un mundo con IA que sean mejores que todos en todo, los humanos pueden vivir vidas con un profundo propósito y esforzarse por construir cosas impresionantes y hermosas .Pero esto es algo que la sociedad en su conjunto debe resolver colectivamente, no algo que las políticas públicas puedan abordar directamente. Las políticas pueden ser de gran ayuda para ganar tiempo para realizar ese trabajo, al frenar la pérdida de empleos y brindar apoyo económico a quienes probablemente se vean afectados.
En ese sentido, algunas intervenciones políticas clave que probablemente resulten útiles incluyen:
- Medición y seguimiento. Es fácil descartar la mera recopilación y análisis de datos como insuficientes para la magnitud del problema, pero es improbable que logremos buenas políticas si no podemos medir con precisión lo que sucede en la práctica. Anthropic lleva casi un año y medio operando un Índice Económico sobre cómo las personas usan Claude, pero los gobiernos tienen acceso a tipos de datos que nosotros no tenemos y podrían ampliar considerablemente sus estadísticas económicas para realizar un seguimiento más preciso del desplazamiento de empleos causado por la IA.
- Incentivos para el empleo. Una amplia gama de incentivos de política para el empleo pueden ayudar a frenar o reducir el desplazamiento laboral, entre ellos: pólizas de seguro salarial que compensan a las personas cuando tienen que aceptar un trabajo peor pagado. 6Incentivos fiscales para la retención de personal, con el fin de evitar despidos, subvenciones para la formación de la fuerza laboral o infraestructura para facilitar la conexión entre empleadores y empleados y así acelerar la adaptación del mercado laboral. Si bien la eficacia de las intervenciones dependerá del tipo de desplazamiento laboral que genere la IA, debemos aceptar los costos y las ineficiencias del mercado que estas políticas podrían implicar, sobre todo porque es probable que se vean compensados por las ganancias de productividad derivadas de la IA.
- Apoyo macroeconómico a largo plazo. Si el desplazamiento laboral provocado por la IA resulta ser de gran magnitud y reduce permanentemente la demanda de mano de obra, probablemente será necesario ir más allá de los simples programas de incentivos y ofrecer apoyo económico a largo plazo a una parte significativa de la fuerza laboral. Mecanismos como la renta básica universal podrían financiarse mediante impuestos a las empresas pertinentes o aumentando el impuesto sobre las ganancias de capital. Las cuentas de capital universales ofrecen otra opción. En términos generales, un rápido crecimiento económico debería generar la base impositiva para una prosperidad compartida.
Un tema recurrente de preocupación económica sobre la IA que no he mencionado son los centros de datos, y en particular su potencial para elevar los precios de la energía. En mi opinión, las empresas de IA deberían asumir los aumentos de tarifas —y Anthropic ya se ha comprometido a hacerlo— , pero considero que la hostilidad pública hacia los centros de datos es, en gran medida, un símbolo o una manifestación de inquietudes económicas más amplias sobre la IA. Es fundamental que tengamos un diálogo social directo sobre estos problemas económicos más amplios y que encontremos soluciones realmente convincentes, o de lo contrario, es probable que se manifiesten indirectamente, como ha ocurrido con los centros de datos.
3. Acelerar el impacto positivo de la IA
Así como debemos lidiar con el equilibrio entre innovación y seguridad para la IA, debemos abordar el mismo equilibrio para las tecnologías que probablemente se verán aceleradas por ella, como la biomedicina, la energía o la ciencia de los materiales. Pero si bien la IA probablemente presente desafíos novedosos que surgen muy rápidamente y para los que no tenemos experiencia previa, otros campos acelerados por la IA probablemente se enfrenten a un problema muy diferente: sistemas regulatorios diseñados para un ritmo de innovación más lento y que no están preparados para gestionar la avalancha de nuevos productos y avances que traerá la IA. La IA también puede hacer que estas tecnologías derivadas sean más seguras y predecibles de una manera que contradice las suposiciones escépticas de agencias reguladoras como la Administración de Alimentos y Medicamentos (FDA).
Por lo tanto, en lo que respecta a las aplicaciones posteriores de la IA —a diferencia de la IA en sí misma— me preocupa más que el marco regulatorio ralentice el progreso (debido a su incapacidad para gestionar el ritmo acelerado del cambio) que su incapacidad para abordar riesgos importantes. Lo último que deseamos es que los beneficios de la IA se vean frenados mientras sus riesgos se ciernen sobre nosotros, por lo que es fundamental actuar ante este problema cuanto antes.
El problema y sus soluciones se manifestarán de manera diferente en cada área de la ciencia, el comercio y la tecnología, por lo que me centraré en un área ilustrativa: la innovación biomédica. Esto se debe tanto a que probablemente será la fuente de los mayores beneficios humanitarios de la IA como a que es un área donde la regulación es particularmente compleja. No sabemos con exactitud cómo la IA acelerará la innovación biomédica, pero parece probable que:
- Incrementar considerablemente el ritmo al que los nuevos fármacos candidatos ingresan al proceso de aprobación regulatoria;
- Aumentar la magnitud de los efectos y mejorar los perfiles de seguridad de los nuevos fármacos, gracias a una mejor optimización y, posiblemente, a una mejor comprensión de su biología subyacente;
- Desarrollar fármacos candidatos para enfermedades que nunca antes han sido tratadas con éxito;
- Crear rápidamente nuevas formas de terapia, de manera similar a como los anticuerpos, los péptidos y las terapias celulares se han convertido en nuevas categorías de tratamiento en las últimas décadas.
Algunos de estos avances acelerarán naturalmente los plazos regulatorios sin necesidad de cambios estructurales. Los fármacos con mayor efecto pueden dar lugar a ensayos clínicos más pequeños y menos costosos, y activar mecanismos para una aprobación acelerada. Sin embargo, el sistema regulatorio actual está diseñado para aplicar un alto nivel de escrutinio y numerosas etapas de prueba, bajo la premisa de que los fármacos candidatos a menudo no funcionan y, a menudo, presentan graves problemas de seguridad incluso cuando sí lo hacen. Tanto en la FDA como en la Agencia Europea de Medicamentos (EMA), el tiempo típico para que un fármaco candidato complete el proceso regulatorio es de 7 a 8 años , en parte debido a estas premisas pesimistas. Sin reformas, la IA simplemente colapsará o sobrecargará este sistema.
Obviamente, no queremos cambiar las cosas de forma que provoque una proliferación de medicamentos milagrosos o incidentes de seguridad generalizados. Pero algunas reformas relativamente sencillas podrían hacer que la FDA, la EMA y agencias similares se adapten mejor a una rápida aceleración científica impulsada por la IA, en caso de que esta se produjera.
Muchos de los pasos del proceso clínico que antes requerían experimentos costosos y lentos pronto podrán realizarse mediante simulación o análisis con IA. Los organismos reguladores deberían considerar la posibilidad de desarrollar estándares desde ahora para la aceptación de estos métodos. Esto permitiría su rápida adopción una vez que demuestren su eficacia, en lugar de prolongar el período de realización de pruebas innecesarias. Algunos ejemplos de áreas donde esto podría aplicarse son:
- Modelado farmacodinámico y farmacocinético (PD/PK) basado en inteligencia artificial;
- Predicción toxicológica para evitar la necesidad de realizar estudios toxicológicos en múltiples especies animales;
- Una selección de dosis más precisa reduce la necesidad de utilizar rangos de dosis amplios en los ensayos clínicos;
- Validación de biomarcadores mediante el análisis de grandes conjuntos de datos;
- Grupos de control sintéticos en ensayos clínicos, para reducir la necesidad de reclutar más participantes;
- Desarrollo de criterios de valoración indirectos (especialmente importantes en el envejecimiento y la neurodegeneración).
Más allá de estos ejemplos concretos, las agencias también deberían considerar mecanismos más radicales y flexibles para la aprobación acelerada. Si mis predicciones sobre la IA son correctas, pronto habrá muchos casos de intervenciones que funcionen de forma inesperada y eficaz, y el sistema regulatorio debería estar preparado para tomarlas en serio y no adoptar una postura de escepticismo excesivo.
La aceleración biomédica debería incrementar sustancialmente los beneficios de la IA, pero cabe destacar que también podría contribuir a reducir sus riesgos. La reforma de los procesos de aprobación biomédica podría ser útil para la biodefensa, y el progreso biomédico impulsado por la IA también podría mejorar la salud mental , lo que podría tener un efecto estabilizador en la sociedad.
4. El Estado y las libertades civiles
Todo sistema de gobierno debe afrontar la cuestión del poder del Estado y sus límites. El Estado tiene un interés legítimo, a menudo existencial, en proteger a su población de amenazas internas y externas. Pero otorgarle demasiado poder es el camino a la tiranía. Las democracias modernas han logrado en gran medida mantener este equilibrio con éxito, pero es un equilibrio precario incluso en las mejores circunstancias. Su cumplimiento ha requerido un amplio entramado legal y constitucional desarrollado a lo largo de siglos; por ejemplo, en Estados Unidos, las enmiendas Primera, Cuarta y Quinta, la Ley Posse Comitatus , la Ley FISA , etc.
La IA amenaza con alterar este equilibrio y, al mismo tiempo, aumenta drásticamente los riesgos. Pero si reaccionamos con rapidez y estamos a la altura de las circunstancias, podemos usar la IA para crear un mundo con garantías de libertad más sólidas y duraderas, y una mejor defensa contra las amenazas, que nunca antes habíamos tenido.
Una IA poderosa en manos equivocadas podría convertirse en la herramienta definitiva de la autocracia, y nuestras protecciones legales y constitucionales actuales no están completamente preparadas para contrarrestar esta amenaza. Fundamentalmente, el enorme retorno de la inteligencia en términos de poder en el mundo, combinado con el rápido ritmo de progreso de la IA, crea una tormenta perfecta para una toma de poder sorpresiva por parte de diversos actores peligrosos.
El peligro podría adoptar diversas formas tecnológicas u operativas específicas, pero todas comparten la idea de que la IA podría conferir repentinamente un poder enorme, eludiendo los mecanismos existentes de control democrático. Un ejército de drones totalmente automatizado, que hoy suena a ciencia ficción, podría, en el futuro, obedecer órdenes ilegales y permitir que los gobiernos afiancen unilateralmente su poder; es más probable que los humanos con formación profesional se opongan a tales órdenes ilegales. Una IA centrada en la vigilancia podría analizar información ampliamente disponible a gran escala y utilizarla para inferir los detalles más íntimos de la vida de cada ciudadano, una capacidad tecnológica no contemplada por la legislación actual sobre libertades civiles. Todo esto podría ocurrir muy rápidamente o en secreto, por lo que es importante fortalecer de forma proactiva el compromiso de las democracias con la libertad y las libertades civiles.
A continuación, presentamos algunas ideas políticas que deberíamos considerar:
- Es necesario establecer normas de rendición de cuentas fiables para las armas totalmente autónomas. Estas armas, y en especial los sistemas autónomos que las coordinan o dirigen, deben someterse a mecanismos de rendición de cuentas constitucionales y de mando (por ejemplo, órdenes judiciales, legislación y supervisión humana superior) en lugar de seguir órdenes ciegamente. Esto podría implicar que un panel de revisión jurídica o el poder judicial, debidamente diseñados, tengan un mecanismo de control para desactivarlas, que los propios sistemas estén intrínsecamente entrenados para buscar y responder a la autoridad de supervisión legítima, o ambas cosas.
- Prohibir el uso interno de armas totalmente autónomas. Si bien existen argumentos legítimos que justifican la necesidad de armas totalmente autónomas para defenderse de adversarios extranjeros (como la invasión rusa de Ucrania), no hay justificación para su uso contra ciudadanos estadounidenses. Las fuerzas armadas ya tienen ciertas limitaciones en su capacidad para operar dentro del territorio nacional, pero lo ideal sería que estas armas también estuvieran prohibidas en las fuerzas del orden.
- Cerrar la laguna legal que permite la recopilación masiva de datos y la intermediación de los mismos. Según la legislación actual, los datos que los estadounidenses comparten con empresas privadas (como los proveedores de internet) pueden comprarse y utilizarse para análisis masivos en el ámbito de la vigilancia interna y la aplicación de la ley. Esta laguna en la protección de la privacidad es anterior a la IA, pero esta aumentará considerablemente los riesgos al hacer que el análisis masivo de dichos datos sea mucho más revelador y útil que en el pasado. Esta laguna legal debe cerrarse.
- Derechos públicos al asesoramiento de IA durante acciones gubernamentales adversas. Como principio general, parece importante que toda persona u organización que sea objeto de acciones gubernamentales adversas (por ejemplo, regulatorias o legales) tenga acceso a una IA al menos tan capaz como la que el gobierno está autorizado a utilizar en dicha acción. Esto implicaría no otorgar al gobierno una ventaja injusta, lo que socavaría efectivamente los derechos legales de los ciudadanos. Esto podría añadirse como una extensión o interpretación de la Ley de Procedimiento Administrativo , las garantías procesales o el derecho a la representación legal consagrado en la Sexta Enmienda .
Finalmente, cabe destacar que los gobiernos no son las únicas entidades de las que debemos desconfiar en lo que respecta a la toma del poder por parte de la IA. En diversos momentos de la historia (como la Edad Dorada en Estados Unidos o la Compañía Británica de las Indias Orientales ), las empresas han alcanzado tal poder que han llegado a controlar el Estado o a adoptar características cuasi estatales. La IA pronto será tan capaz que me preocupa que no se pueda confiar plenamente ni a gobiernos ni a empresas, y que sea necesario establecer controles y equilibrios para cada uno.
La regulación es una de las soluciones para controlar a las empresas (y mis ideas al respecto se encuentran en la Sección 1), pero también es importante que las empresas de IA cuenten con una mayor separación de poderes y responsabilidades que la que suelen tener las entidades privadas. El Fideicomiso de Beneficios a Largo Plazo de Anthropic (un órgano de gobierno independiente diseñado para garantizar que la empresa cumpla con su misión) es un ejemplo de esta estructura, y el sector debería seguir explorando mecanismos que vayan más allá. Lograr el equilibrio adecuado, de modo que tanto las empresas como el gobierno cuenten con controles efectivos sobre sus poderes, es fundamental.
5. Garantizar el liderazgo de las democracias
Se ha convertido en un instinto común, quizás derivado de la experiencia reciente con internet y las telecomunicaciones, considerar las nuevas tecnologías desde una perspectiva geopolítica como instrumentos de política comercial, con el objetivo de «difundir nuestro conjunto de tecnologías por todo el mundo». Pero estoy firmemente convencido de que la IA es algo mucho más profundo, algo que redefine por completo el panorama y en torno a lo cual debe diseñarse toda estrategia geopolítica futura, como las armas nucleares, pero potencialmente incluso más.
Si la IA realmente se convierte pronto en «un país de genios en un centro de datos», o algo remotamente parecido, entonces es probable que se convierta en la principal fuente de poder militar y económico para cualquier nación . En un país virtual de 100 millones de genios, 10 millones podrían dedicarse a la estrategia militar, 10 millones a la fabricación de drones, 10 millones a la I+D de armas, 10 millones a la recopilación y el análisis de inteligencia, 10 millones al avance científico general, y así sucesivamente. Una nación que posee una IA poderosa y se enfrenta a una que carece de ella —o incluso a una que está tres años por detrás en IA— podría ser el equivalente a un ejército de marines de la Segunda Guerra Mundial enfrentándose a un ejército de espadachines medievales.
Además, si la IA avanzada permite formas de represión autocrática más profundas y potencialmente permanentes (véase la Sección 4), resulta aún más importante que las naciones más poderosas del mundo sean democracias, o al menos que existan sólidas protecciones contra la represión impulsada por la IA. Esto también aumenta la urgencia de una estrategia geopolítica bien definida.
Las democracias deberían buscar formar una coalición global centrada en el desarrollo de la IA de acuerdo con sus valores comunes, intentando progresivamente atraer al resto del mundo, haciendo cada vez más atractivo formar parte de la coalición y cada vez menos atractivo permanecer fuera de ella. La coalición debería ser una internacionalización coordinada de las ideas políticas sobre IA analizadas en las secciones 1 a 4, además de un esfuerzo por controlar la cadena de suministro fundamental para el desarrollo de la IA, compartiéndola dentro de la coalición y negándosela a quienes estén fuera de ella. Algunos principios y objetivos operativos podrían incluir:
- Gestionar la cadena de suministro de IA. Los miembros de la coalición de confianza deberían compartir libremente chips y equipos de fabricación de semiconductores (EMS) entre sí, al tiempo que colaboran para impedir que sus adversarios los obtengan. Los controles de exportación estadounidenses sobre chips de vanguardia y EMS a China han contribuido significativamente al liderazgo general de EE. UU. en IA, y estas políticas deben ampliarse, reforzarse y coordinarse con otros estados afines. Legislaciones pendientes como MATCH y OVERWATCH constituyen un buen primer paso, y las democracias aliadas deben considerar medidas similares.
- Coordinación para abordar los riesgos de la IA. Las políticas para abordar los riesgos biológicos, de ciberseguridad y de autonomía descritos en la Sección 1 serán más eficaces (y menos onerosas para la industria) si se coordinan internacionalmente. Esto permitiría a las empresas cumplir con estándares compatibles y a los reguladores aprender unos de otros sobre la mejor manera de medir y mitigar estos riesgos. Las fuerzas del orden y los organismos de inteligencia también deberían colaborar más estrechamente para rastrear y neutralizar las amenazas de uso indebido, como los intentos de los terroristas de crear armas biológicas con IA.
- Compartir los beneficios de la IA. Las políticas comerciales y regulatorias pueden utilizarse para facilitar una difusión más rápida de los beneficios económicos de la IA dentro de la coalición, compartiendo experiencias sobre cómo acelerar la innovación. La coordinación de enfoques para una implementación beneficiosa podría ayudar a llevar los beneficios de la IA a los países en desarrollo. Por ejemplo, la armonización de los regímenes de aprobación médica podría conducir a pruebas y aprobaciones más rápidas y eficaces de medicamentos basados en IA (como se analizó en la Sección 3).
- Defensa mutua. Los países de la coalición deben colaborar para defenderse mutuamente con IA y contra la IA de sus adversarios. La coalición debe garantizar de forma conjunta la producción suficiente de sistemas de ciberdefensa basados en IA, drones con IA, fabricación impulsada por IA, computación clasificada con IA, I+D basada en IA y el intercambio de información de inteligencia artificial.
- Rechazo a la represión impulsada por IA. Los miembros de la coalición deberían rechazar la tiranía ultrarrepresiva de alta tecnología basada en IA sobre la que advertí en La adolescencia de la tecnología , y deben contar con salvaguardias similares a las que describí en la Sección 4 anterior.
- Cooperación macroeconómica. Las crisis de empleo o de estabilidad laboral, como cualquier otra crisis económica, pueden propagarse a través de las fronteras. Por lo tanto, los países tienen un interés común en colaborar para coordinar políticas de apoyo y estabilización macroeconómica, como las descritas en la Sección 2, para contrarrestar cualquier efecto negativo sobre el empleo.
El objetivo debe ser hacer que la pertenencia a la coalición sea lo más atractiva posible, y dejar claros los costos de permanecer fuera de ella. La coalición se basaría en la coordinación entre estados soberanos, conservando cada nación plena autoridad sobre sus propios asuntos. Podría crecer de forma gradual, comenzando con democracias ideológicamente afines (que estarán naturalmente dispuestas a unirse) y acogiendo progresivamente a países menos afines pero dispuestos a cumplir con los estándares de la coalición a cambio de los enormes beneficios de la membresía. Idealmente, el mundo entero se uniría eventualmente. Pero incluso si eso no es posible, la construcción de la coalición coloca a las democracias en la mejor posición para contener y superar a los regímenes que siguen comprometidos con la represión.
Una ventana de oportunidad
El progreso exponencial de la IA ha generado una urgencia y un ritmo de cambio que el proceso de formulación de políticas normalmente no está preparado para afrontar. Pero también ha creado una oportunidad única. La confluencia de pruebas claras y presentes de los riesgos de la IA, un primer atisbo de su potencial tanto para la creación de valor económico como para la disrupción económica , y una notable reacción pública contra los enfoques no regulados de la IA han creado una situación en la que los responsables políticos están inusualmente abiertos a acciones con visión de futuro . Bárbol y su bosque están despertando.
En los círculos de la industria de la IA, se ha popularizado la idea de que esto es un problema de relaciones públicas: se dice que la IA necesita «mejor marketing». Rechazo por completo este planteamiento. La gente está preocupada por la IA porque percibe correctamente que sus riesgos son reales, no porque los directores ejecutivos de IA no hayan sido lo suficientemente optimistas. Creo que es mi deber como líder en IA seguir siendo transparente sobre estos riesgos, y la preocupación pública en respuesta a esta transparencia constituye una rendición de cuentas democrática que funciona como debe. El reto principal consiste en canalizar esta preocupación hacia soluciones constructivas y evitar que degenere en ira y violencia sin sentido.
Soy optimista respecto a la búsqueda de soluciones, ya que muchos de estos problemas —desde abordar el desplazamiento laboral hasta las pruebas previas al lanzamiento de modelos, pasando por los controles de exportación de chips y otras cuestiones políticas relacionadas con la IA, como el consumo de energía— gozan de un amplio respaldo político. Existe un futuro ambicioso pero realista en el que una amplia coalición no partidista, impulsada por el reconocimiento directo de los desafíos que plantea la IA, propiciará la adopción de políticas sensatas y con visión de futuro mucho más rápidamente de lo habitual. Cuanto antes lo logremos, antes podremos disfrutar todos de los increíbles beneficios de la IA .
Me gustaría agradecer a Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Matt Yglesias, Nick Beckstead, Jason Matheny, Brad Carson y a muchos miembros del personal de Anthropic por sus comentarios y sugerencias sobre los borradores de este ensayo.