Brad Smith, presidente de Microsoft, advierte que la inteligencia artificial representa riesgos crecientes para la ciberseguridad y reclama normas obligatorias para las empresas que desarrollan los modelos más avanzados. También cuestiona la autorregulación voluntaria y destaca el papel del instituto británico dedicado a evaluar estos sistemas.
La inteligencia artificial necesita reglas de seguridad más estrictas y el Reino Unido podría liderar la construcción de un marco regulatorio internacional. Esa es la posición de Brad Smith, presidente de Microsoft, quien sostiene que los productos de consumo tradicionales están sujetos a controles más rigurosos que muchas de las tecnologías de IA que ya se incorporan a la vida cotidiana.
En una entrevista con la BBC, Smith describió la inteligencia artificial como una «herramienta y un arma» y advirtió que su desarrollo plantea riesgos para la ciberseguridad mundial. Para el ejecutivo, llegó el momento de establecer reglas globales que permitan controlar los peligros asociados con sistemas cada vez más capaces de ejecutar tareas de manera autónoma.
La propuesta llega en un momento en el que los principales desarrolladores de inteligencia artificial enfrentan una presión creciente para demostrar que sus modelos pueden operar de manera segura. En los últimos meses, distintos incidentes vinculados con agentes de IA que realizaron acciones inesperadas alimentaron el debate sobre los límites de la autonomía de estas herramientas y los mecanismos necesarios para mantenerlas bajo control humano.
Smith considera que el Reino Unido cuenta con condiciones particulares para impulsar ese proceso. A diferencia de Estados Unidos o de la Unión Europea, argumentó, el país puede intervenir en el debate internacional sobre seguridad tecnológica sin generar las mismas resistencias políticas que otras jurisdicciones.
«En Washington D. C., la gente no mira al Reino Unido ni a Londres de la misma manera que mira a Bruselas. Eso es una fortaleza», explicó el presidente de Microsoft a la BBC.
El instituto británico que evalúa los modelos de IA
Uno de los elementos centrales de esa estrategia es el AI Security Institute (AISI), una institución británica creada en 2023 que accede a modelos de las principales empresas estadounidenses antes de su lanzamiento para evaluar sus capacidades y riesgos de seguridad.
El organismo se convirtió rápidamente en un actor relevante en las pruebas de sistemas de inteligencia artificial de frontera. Su trabajo permite examinar modelos avanzados antes de que lleguen al público y detectar posibles vulnerabilidades o comportamientos que podrían representar riesgos.
Sin embargo, ese acceso quedó bajo presión en medio de las tensiones políticas entre Washington y Londres. Según informó Politico, en septiembre de 2026 el presidente estadounidense Donald Trump habría pedido a OpenAI y Anthropic que retuvieran sus nuevos modelos de los evaluadores británicos hasta que Estados Unidos pudiera revisarlos.
El lunes 12 de octubre, el AISI confirmó que mantenía la capacidad de acceder y probar los modelos más recientes, según informó Reuters. Esa confirmación resulta relevante para el debate que plantea Smith: la seguridad de la inteligencia artificial no depende únicamente de las políticas internas de cada compañía, sino también de la posibilidad de someter sus sistemas a evaluaciones independientes.
Trump había cuestionado a organizaciones internacionales que considera «globalistas» y que, según su postura, interfieren en las actividades de las empresas estadounidenses. En ese contexto, el planteo de Smith también expone una discusión sobre el alcance que deberían tener los organismos públicos y los evaluadores externos en una industria estratégica.
Por qué Microsoft reclama reglas obligatorias
La discusión regulatoria se intensificó después de que referentes del sector, entre ellos Dario Amodei, CEO de Anthropic, y Sam Altman, CEO de OpenAI, reclamaran medidas para moderar el ritmo de desarrollo de la inteligencia artificial.
A comienzos de octubre, Trump recibió en la Casa Blanca a representantes de empresas como OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta y Google para conversar sobre seguridad. Los participantes firmaron un documento de compromiso moral en el que aceptaron trabajar con auditores independientes para evaluar la seguridad y las capacidades de sus modelos.
Smith calificó ese acuerdo como «un buen paso», aunque advirtió que no reemplaza la regulación que, a su juicio, necesita el sector. Su principal objeción es que los compromisos voluntarios dependen de la decisión de cada compañía de cumplirlos.
«El problema de la autorregulación voluntaria es que solo las buenas empresas van a cumplir. Son las empresas que no son tan responsables las que deben preocuparnos», señaló.
El presidente de Microsoft propone establecer obligaciones legales para responder a incidentes relacionados con agentes de inteligencia artificial. Una de sus ideas es que las organizaciones deban informar cuando sus sistemas sufran una brecha de seguridad provocada por agentes que actúen de manera inesperada o fuera de los límites previstos.
También se mostró favorable a que laboratorios externos evalúen determinados productos de IA antes de su lanzamiento. El objetivo sería contar con una instancia de control independiente que permita identificar riesgos antes de que los sistemas sean utilizados a gran escala.
Otra de las medidas que destacó son los mecanismos de apagado o interrupción —conocidos como kill switches— que permitan pausar o ralentizar un sistema si los seres humanos pierden el control sobre su comportamiento.
Estas propuestas apuntan a una cuestión central para el futuro de la industria: cómo garantizar que la creciente capacidad de los agentes de IA para ejecutar tareas no avance más rápido que los mecanismos de supervisión y respuesta.
Smith planteó que la respuesta requiere cooperación entre empresas y gobiernos, además de reglas que no dependan exclusivamente de la voluntad de los desarrolladores.
«Hablemos con calma, quizá incluso en voz baja, pero con firmeza, y empecemos a reunir a las personas», afirmó. «Espero que ese sea el papel que podamos desempeñar como empresa. Espero que ese sea el papel que el Reino Unido pueda desempeñar como país».
El planteo de Microsoft no implica que exista ya un marco global acordado ni que las medidas propuestas estén vigentes. Expresa, en cambio, una posición sobre el próximo capítulo de la industria: a medida que los modelos ganan autonomía y capacidad, la seguridad de la inteligencia artificial empieza a discutirse no solo como una responsabilidad técnica de las compañías, sino también como una obligación regulatoria.