Vincent Yao Shunyu, científico jefe de IA de Tencent, advirtió que los modelos más avanzados podrían acelerar el descubrimiento de medicamentos, pero también facilitar el desarrollo de amenazas biológicas. El ejecutivo pidió extremar los controles, especialmente ante la expansión de los modelos de código abierto.
La inteligencia artificial está a punto de alcanzar un nivel de capacidad que podría cambiar profundamente la investigación biológica. Pero ese avance también abre un escenario de riesgos que preocupa a los principales referentes de la industria tecnológica: la posibilidad de que modelos cada vez más potentes sean utilizados para desarrollar armas biológicas o incluso contribuir al inicio de una nueva pandemia.
La advertencia fue formulada por Vincent Yao Shunyu, científico jefe de inteligencia artificial de Tencent Holdings, durante una poco habitual aparición pública en un simposio científico realizado el sábado en Hong Kong. El encuentro fue organizado conjuntamente por la Academia de Ciencias de Hong Kong y el Future Science Prize.
Yao, quien tiene 29 años y trabajó anteriormente en OpenAI, sostuvo que las capacidades de los modelos de inteligencia artificial en materia de ciberseguridad y, próximamente, en biología están acercándose a un umbral en el que podrían provocar daños concretos.
“Las capacidades cibernéticas de los modelos y, pronto, sus capacidades biológicas alcanzarán un umbral en el que realmente será posible causar daño”, afirmó el investigador.
El ejecutivo también envió un mensaje a las compañías que desarrollan modelos abiertos: “Todas las empresas chinas, o cualquier compañía que desarrolle modelos abiertos, deben ser muy responsables y tomarse muy en serio estas preocupaciones de seguridad y protección”.
El doble uso de la inteligencia artificial: medicamentos y amenazas biológicas
La biología aparece cada vez más como una de las próximas grandes fronteras de la inteligencia artificial, después de los avances registrados en programación y ciberseguridad. Su potencial es considerable: los modelos pueden acelerar procesos de investigación, contribuir al descubrimiento de medicamentos y ayudar a desarrollar nuevos tratamientos.
Sin embargo, esas mismas capacidades podrían ser aprovechadas por actores maliciosos. Los especialistas advierten que la IA también puede facilitar investigaciones destinadas a diseñar patógenos o desarrollar armas biológicas.
Se trata de una tecnología de doble uso: las mismas herramientas pueden servir tanto para mejorar las defensas como para potenciar las capacidades de quienes buscan causar daño. Yao señaló que gestionar esos riesgos podría resultar incluso más complejo que en el terreno de la ciberseguridad, porque las aplicaciones ofensivas y defensivas de la biología son más difíciles de separar.
Durante su presentación, el científico también describió los planes de Tencent para avanzar hacia laboratorios científicos autónomos, en los que sistemas de inteligencia artificial puedan ejecutar experimentos complejos de principio a fin. Entre los ejemplos mencionó investigaciones relacionadas con el plegamiento inverso de proteínas.
“Creo que todos los cambios técnicos pueden resolverse; es solo una cuestión de tiempo. Considero que el desafío más grande es social y organizativo”, señaló.
Hy4 y los controles de seguridad de Tencent
Las advertencias de Yao llegan pocos días después de que Tencent presentara Hy4, su último modelo insignia de inteligencia artificial. Según la firma de evaluación Artificial Analysis, el sistema obtuvo el segundo mejor desempeño entre los modelos desarrollados en China.
La compañía aseguró que, durante el entrenamiento de Hy4, eliminó sus capacidades de piratería informática, aunque conservó las funciones vinculadas con la defensa cibernética. Para ello, filtró los datos relevantes durante el proceso de entrenamiento.
En cuanto a la biología, Tencent sostuvo que las capacidades del modelo permanecen “muy por debajo” de su umbral de alto riesgo. La empresa fundamentó esa evaluación en que Hy4 todavía no puede transformar conocimientos biológicos generales en protocolos concretos que permitan llevar adelante acciones potencialmente peligrosas.
Yao, sin embargo, pidió no subestimar los desafíos. También remarcó que la distancia entre los modelos chinos y sus competidores estadounidenses no es demasiado grande, lo que obliga a toda la industria a elevar sus estándares de evaluación.
“Cuando se lanza un modelo, hay que ser muy cuidadoso con la evaluación. Por eso colaboramos con algunos de los mejores laboratorios de seguridad de Tencent”, explicó. Y agregó: “Todavía hay muchas cosas que debemos hacer para que el proceso sea más completo, pero estamos trabajando en ello”.
La compañía anticipó que publicará los pesos de Hy4 “en los próximos días”, junto con una ficha técnica integral del sistema (system card) que detallará las evaluaciones de seguridad relacionadas con sus capacidades cibernéticas y biológicas.
El debate entre modelos abiertos y cerrados
Uno de los principales puntos de discusión es si los modelos de código abierto representan una ventaja o un riesgo adicional para la seguridad de la inteligencia artificial.
A diferencia de los sistemas cerrados, los modelos de pesos abiertos permiten que cualquier persona con suficiente capacidad de hardware descargue sus componentes internos, los modifique y los adapte a distintos usos. Esa flexibilidad puede ampliar el acceso a la tecnología, pero también dificulta controlar qué aplicaciones se desarrollan una vez que los modelos están disponibles.
Yao reconoció que compañías estadounidenses como Anthropic, desarrolladora de Claude, plantearon argumentos sólidos a favor de mantener cerrados los modelos más avanzados para evitar daños significativos a la sociedad.
No obstante, defendió la posibilidad de combinar ambos enfoques. Como ejemplo, mencionó un incidente reciente en el que Hugging Face utilizó un modelo chino de pesos abiertos para defenderse de un ciberataque, después de que modelos estadounidenses cerrados se negaran a colaborar debido a sus mecanismos de seguridad.
“Quizás la mejor manera de avanzar siga siendo una combinación de modelos cerrados y abiertos, porque también se quiere permitir que todos puedan aprovechar la tecnología para la defensa”, sostuvo.
La discusión ya excede a las empresas. La semana pasada, Tencent, Huawei Technologies y Alibaba Group Holding participaron en un informe sobre seguridad de la IA avanzada presentado durante la Conferencia Mundial de Internet, en Wuzhen. El documento advirtió que las capacidades crecientes de los sistemas para realizar tareas como el diseño de patógenos podrían generar importantes riesgos para la salud pública.
En paralelo, Beijing está aumentando el control sobre los riesgos asociados con los modelos más avanzados. Las nuevas propuestas de controles a las exportaciones contemplan restricciones adicionales para los sistemas que superen determinados umbrales de capacidad para realizar ciberataques.
El mes pasado, Li Chijiang, embajador chino para asuntos de desarme, advirtió ante Naciones Unidas que la integración creciente de la inteligencia artificial con tecnologías biológicas y químicas está reduciendo las barreras para cometer ataques terroristas.
El tema también podría llegar a la agenda política internacional. Se espera que la inteligencia artificial tenga un lugar destacado en la reunión que mantendrán el presidente chino, Xi Jinping, y el presidente estadounidense, Donald Trump, durante la cumbre de Cooperación Económica Asia-Pacífico (APEC), prevista para este mes en Shenzhen. En septiembre, ambos países habían acordado poner en marcha un diálogo sobre IA y un mecanismo de notificación de incidentes.
Yao se incorporó a Tencent el año pasado, después de trabajar durante un año en OpenAI, donde contribuyó a avances vinculados con productos como Operator y Deep Research. Su advertencia refleja una preocupación cada vez más extendida entre los desarrolladores de modelos avanzados: el desafío ya no consiste solamente en ampliar las capacidades de la inteligencia artificial, sino también en garantizar que su aplicación en campos sensibles como la biología no genere riesgos difíciles de controlar.
