Los líderes de Finlandia y Noruega lanzaron un llamado respaldado por 22 dirigentes para aumentar la supervisión de los modelos de inteligencia artificial de frontera. Proponen pruebas obligatorias antes de su lanzamiento, evaluaciones independientes y una posible institución internacional bajo el marco de Naciones Unidas.
El desarrollo de los modelos más avanzados de inteligencia artificial comienza a convertirse en una cuestión de coordinación internacional. El presidente de Finlandia, Alexander Stubb, y el primer ministro de Noruega, Jonas Gahr Støre, lanzaron un llamado para establecer mayores controles sobre el desarrollo de los llamados modelos de IA de frontera, una iniciativa que ya cuenta con el respaldo de 22 líderes de distintos países.
El planteo busca que otros gobiernos se sumen al pedido y propone avanzar hacia mecanismos comunes para evaluar los riesgos asociados con sistemas de inteligencia artificial cada vez más capaces.
“Los líderes de muchas naciones, incluido yo mismo, ahora piden una mejor supervisión de los modelos de IA más avanzados. La IA es una tecnología extremadamente poderosa con un enorme potencial, pero también puede representar un riesgo serio para la seguridad. Gestionar estos riesgos requerirá acción política, y las empresas tecnológicas deben tener ampliamente la expectativa de operar de manera responsable”, afirmó Jonas Gahr Støre.
El primer ministro noruego señaló además que los países están trabajando conjuntamente y que el tema será abordado durante la Semana de Alto Nivel de la Asamblea General de Naciones Unidas.
Pruebas obligatorias y evaluaciones independientes
La iniciativa aparece después de una serie de advertencias provenientes de investigadores, expertos y ejecutivos de las principales compañías estadounidenses de inteligencia artificial, que han planteado la necesidad de reducir el ritmo de desarrollo después de que varios modelos avanzados lograran salir de sus entornos de prueba y atacar a otras organizaciones sin ser detectados.
El comunicado también recuerda que el secretario general de Naciones Unidas considera que una inteligencia artificial fuera de control constituye una de las tres amenazas existenciales para la humanidad, junto con la crisis climática y el aumento de la desigualdad.
Para Alexander Stubb, el impacto de la inteligencia artificial puede superar al de cualquier otra tecnología conocida.
“La IA tendrá más impacto en la historia de la humanidad que cualquier otra tecnología. Afectará a la ciencia, la economía, la política, la seguridad y a lo que significa ser humano. Los seres humanos pueden y deben estar al mando. Tenemos una opción: podemos competir, cooperar o poner el freno. Para mí, la cooperación es el mejor camino a seguir”, sostuvo el presidente de Finlandia.
El documento plantea una serie de medidas dirigidas tanto a las empresas tecnológicas como a los gobiernos.
En primer lugar, los países firmantes proponen que las compañías desarrollen protocolos de seguridad transparentes, que incluyan pruebas obligatorias antes del lanzamiento de los modelos y evaluaciones independientes. Los evaluadores deberían contar, además, con acceso suficiente a los sistemas para poder analizar sus riesgos.
El segundo eje apunta a los gobiernos y las organizaciones regionales. La propuesta busca desarrollar y coordinar estándares comunes, aumentar la transparencia y establecer mecanismos para compartir información sobre incidentes graves de seguridad relacionados con inteligencia artificial.
El llamado también plantea que todos los países y regiones tengan acceso a capacidad científica, conocimiento especializado y sistemas de evaluación confiables.
Una posible institución internacional para la IA
El tercer punto tiene una dimensión todavía más ambiciosa. Los líderes proponen que los Estados miembros de Naciones Unidas aprovechen los mecanismos internacionales existentes y estudien la creación de una institución internacional especializada en inteligencia artificial.
Según el planteo, ese organismo podría establecer estándares, facilitar mecanismos de verificación y convocar a los Estados cuando los sistemas de IA alcancen determinados umbrales de capacidad.
La iniciativa no plantea detener el desarrollo de la tecnología. Jonas Gahr Støre destacó precisamente sus beneficios potenciales para las economías y las sociedades.
“La IA es una tecnología muy útil que puede fortalecer nuestra economía, facilitar avances en investigación, mejorar la competitividad de la industria y generar servicios públicos mejores y más eficientes, por mencionar solo algunos ejemplos”, afirmó.
El desafío, según el primer ministro noruego, consiste en establecer condiciones que permitan mantener el control sobre los modelos de frontera.
“El desarrollo de los modelos de IA de frontera debe producirse a un ritmo que nos permita conservar el control. La tecnología debe ser segura, cumplir con las regulaciones existentes y utilizarse de acuerdo con el derecho internacional. La tecnología de IA debe permanecer bajo dirección humana y debemos evitar que sea utilizada para causar daño”, agregó Støre.
El planteo de Finlandia y Noruega coloca así la seguridad de los modelos más avanzados dentro de una agenda que trasciende a las empresas tecnológicas. La propuesta apunta a combinar regulación, evaluación independiente, cooperación entre gobiernos y mecanismos internacionales de verificación para acompañar una tecnología cuyo desarrollo continúa avanzando a gran velocidad.
