Un informe revela que los modelos de inteligencia artificial más avanzados ya pueden responder consultas sobre armas biológicas con un nivel de detalle que preocupa a la industria, mientras Estados Unidos debate nuevas regulaciones para controlar estos riesgos.
La rápida evolución de la inteligencia artificial generativa abrió un nuevo frente de preocupación para las principales compañías del sector. Mientras OpenAI, Anthropic y Google compiten por desarrollar modelos cada vez más potentes, también enfrentan un desafío creciente: impedir que esas mismas herramientas puedan ser utilizadas para diseñar armas biológicas o planificar ataques de gran escala.
Un informe publicado por The Wall Street Journal revela que, tras una importante mejora en las capacidades de ChatGPT durante el año pasado, cientos de usuarios comenzaron a realizar consultas relacionadas con la fabricación y utilización de armas biológicas y venenos. De acuerdo con personas familiarizadas con las pruebas internas de OpenAI, algunas respuestas ofrecían instrucciones paso a paso que posteriormente fueron evaluadas por especialistas en biología y terrorismo, quienes concluyeron que varias eran técnicamente correctas.
Según el reporte, la mayoría de las consultas buscaban información sobre la producción de sustancias tóxicas. En algunos casos, usuarios preguntaron cómo aerosolizar patógenos, modificar el virus del sarampión para hacerlo resistente a las vacunas o fabricar ricina, un veneno altamente tóxico prohibido por tratados internacionales. La empresa suspendió las cuentas involucradas, aunque no notificó a las autoridades, ya que actualmente no existe una legislación federal que obligue a las compañías de IA a reportar este tipo de consultas.
El crecimiento de este tipo de interacciones preocupa tanto a la industria como al gobierno estadounidense. Funcionarios de la Casa Blanca y del Departamento de Defensa vienen analizando desde hace varios años el potencial de la IA para facilitar el desarrollo de armas biológicas. La llegada de modelos más avanzados llevó a la administración estadounidense a incrementar el nivel de supervisión sobre estas tecnologías.
OpenAI aseguró que entrena sus modelos para rechazar solicitudes que impliquen instrucciones destinadas a causar daño y que realiza evaluaciones de seguridad antes de cada lanzamiento. La compañía también explicó que identifica actividades sospechosas y puede restringir cuentas cuando detecta intentos de obtener información peligrosa. Actualmente, ChatGPT procesa alrededor de 2.500 millones de consultas diarias, una escala que convierte el monitoreo en un desafío tecnológico de primer nivel.
Sin embargo, el problema no es exclusivo de OpenAI. Usuarios también realizaron consultas similares a Claude, de Anthropic; Gemini, de Google; y Grok, desarrollado por la empresa de Elon Musk e integrado recientemente en SpaceX. Los especialistas consultados por el periódico señalan que todavía resulta difícil determinar cuántas de esas preguntas corresponden a investigaciones legítimas y cuántas responden a intentos reales de desarrollar armas biológicas.
Paradójicamente, las mismas restricciones que buscan impedir un uso malicioso también generan inconvenientes para investigadores científicos. El informe menciona que empleados de los Centers for Disease Control and Prevention (CDC) encontraron dificultades para utilizar Claude durante un brote de hantavirus porque el modelo rechazaba consultas que contenían la palabra «patógeno». Posteriormente, Anthropic trabajó con la agencia para mostrarles cómo utilizar versiones específicas de sus herramientas destinadas al ámbito gubernamental.
El artículo también revela detalles sobre la evolución interna de OpenAI. Durante 2024, las pruebas realizadas por la empresa mostraban que ChatGPT mejoraba rápidamente sus capacidades en biología. Los equipos de seguridad llegaron a proyectar que para 2025 el modelo podría asistir a personas con conocimientos equivalentes a los de un estudiante de secundaria en el diseño de un arma biológica. Esa preocupación impulsó el desarrollo de sistemas específicos para detectar usuarios que intentaran obtener este tipo de información.
A pesar de esas medidas, poco después del lanzamiento de GPT-5, empleados de la compañía detectaron nuevamente conversaciones en las que el modelo ofrecía ayuda para fabricar venenos y armas biológicas. Posteriormente, OpenAI ajustó la clasificación de riesgo del modelo y continuó fortaleciendo sus mecanismos de seguridad. La empresa también ofrece actualmente una recompensa de U$S 50.000 a quienes logren demostrar que consiguieron vulnerar determinadas protecciones relacionadas con armas biológicas.
Mientras tanto, el Congreso de Estados Unidos analiza distintos proyectos de ley para obligar a las compañías de inteligencia artificial a informar actividades potencialmente peligrosas y otorgar al gobierno mayores facultades para intervenir cuando un modelo represente un riesgo significativo para la seguridad nacional. Para la industria, el desafío será encontrar un equilibrio entre impulsar el desarrollo científico y evitar que las herramientas de IA se conviertan en un manual accesible para actores maliciosos.