Google DeepMind utilizó IA para verificar el código de Signal en 4 semanas: una tarea que llevaba años de trabajo

El sistema AlphaProof Code comprobó matemáticamente partes fundamentales del protocolo de cifrado utilizado por Signal, WhatsApp y Google Messages. El avance combina agentes de IA, Gemini Carbon y supervisión humana, y abre nuevas posibilidades para la seguridad informática.

La inteligencia artificial comienza a demostrar que puede hacer algo más que escribir código, detectar errores o desarrollar aplicaciones: también puede comprobar matemáticamente que un software cumple con las propiedades de seguridad para las que fue diseñado. Google DeepMind acaba de presentar un avance significativo en ese terreno al utilizar agentes de inteligencia artificial para verificar partes fundamentales de la implementación del protocolo criptográfico que protege las comunicaciones de Signal y que también sustenta el cifrado de WhatsApp y Google Messages.

El trabajo se realizó en apenas cuatro semanas, un proceso que, según la compañía, históricamente podía demandar años de investigación y trabajo de equipos especializados.

La investigación utilizó un sistema denominado AlphaProof Code, un marco de trabajo que combina diferentes modelos de inteligencia artificial, agentes autónomos y supervisión de expertos humanos. El objetivo fue comprobar formalmente que determinadas partes del código utilizado por Signal cumplen con las propiedades de seguridad establecidas.

La relevancia del desarrollo está en el método. La verificación formal es una disciplina informática que utiliza demostraciones matemáticas para establecer que un programa se comporta de acuerdo con determinadas especificaciones. A diferencia de las pruebas tradicionales, que permiten comprobar cómo funciona un sistema bajo ciertas condiciones, este procedimiento busca demostrar rigurosamente que determinadas propiedades se cumplen.

En materia de seguridad informática, representa uno de los niveles más exigentes de garantía disponibles. Sin embargo, su aplicación suele ser lenta y costosa, especialmente cuando se trata de sistemas complejos que ya están desplegados y son utilizados por millones de personas.

Según Google DeepMind, esta sería la primera vez que la implementación de un protocolo criptográfico ampliamente utilizado consigue una verificación formal de este tipo, independientemente de que se utilice inteligencia artificial.

AlphaProof Code: seis millones de líneas de código verificadas

El procedimiento desarrollado por DeepMind combinó modelos de inteligencia artificial con especialistas humanos para transformar los objetivos de seguridad del protocolo de Signal en especificaciones matemáticas verificables.

Los investigadores y los modelos de IA elaboraron esas especificaciones, que posteriormente fueron revisadas por expertos humanos. Una vez establecidas las condiciones que debían cumplirse, los agentes de inteligencia artificial comenzaron a generar las demostraciones matemáticas.

Los agentes, impulsados por Gemini Carbon, produjeron más de 6 millones de líneas de código en Lean, un lenguaje de programación diseñado para expresar demostraciones matemáticas y permitir que una computadora compruebe automáticamente su validez.

Después de generar las pruebas, el propio sistema realizó una auditoría de su trabajo e identificó aproximadamente el 1% de la base de código que necesitaba una segunda revisión humana.

El análisis contempló propiedades de seguridad especialmente relevantes para las comunicaciones cifradas, entre ellas la protección de los mensajes antes y después de que un dispositivo haya sufrido un compromiso temporal.

Este último escenario es importante porque los protocolos de seguridad deben contemplar situaciones en las que un dispositivo pueda quedar expuesto y posteriormente recuperar sus condiciones de protección.

El trabajo no encontró nuevas vulnerabilidades en las partes analizadas del código de Signal. Sin embargo, DeepMind también realizó una prueba para determinar si su sistema podía identificar errores reales.

Para hacerlo, los investigadores reintrodujeron dos fallas que habían existido anteriormente y que ya habían sido corregidas en una versión aislada del código. En ambos casos, AlphaProof Code consiguió producir una demostración verificada automáticamente de que las versiones modificadas no eran seguras.

El resultado permitió comprobar que el sistema no solamente podía demostrar propiedades de un código correcto, sino también identificar cuándo una implementación dejaba de cumplirlas.

Signal destaca el avance, pero DeepMind reconoce sus límites

El proyecto no verificó la totalidad de la aplicación móvil de Signal. Además, el trabajo se apoyó en investigaciones anteriores de verificación formal realizadas por la Signal Foundation, que ya había avanzado en el análisis de determinadas partes del protocolo.

Ehren Kret, director de tecnología de Signal, explicó que los trabajos anteriores «se centraron en porciones más pequeñas del código», mientras que el enfoque de Google DeepMind «permite una expansión significativa».

El ejecutivo también destacó la importancia del avance frente al crecimiento de las amenazas informáticas impulsadas por inteligencia artificial. Según señaló, la verificación formal proporciona a Signal «aún mayor confianza» en sus garantías de privacidad.

Uno de los aspectos más interesantes del proyecto es que DeepMind no pretende que la inteligencia artificial controle todo el proceso sin intervención humana.

Swarat Chaudhuri, científico investigador de Google DeepMind, explicó a Wired que el equipo busca evitar un escenario en el que los modelos generen tanto los objetivos de seguridad como las pruebas destinadas a demostrar que esos objetivos se cumplen.

«No queremos este tipo de mundo de sensaciones en el que la IA genera los objetivos y la IA genera las pruebas y básicamente toma exámenes que están autoescritos», sostuvo Chaudhuri. «Hay un término medio».

Por esa razón, los especialistas humanos participaron en la revisión de las especificaciones y de las secciones del código que el sistema identificó como especialmente sensibles.

De las aplicaciones de mensajería a la infraestructura crítica

El potencial de AlphaProof Code va mucho más allá de Signal. Google DeepMind considera que este enfoque podría extenderse a otros sistemas cuyo funcionamiento seguro resulta fundamental.

Entre las posibilidades mencionadas aparecen el firmware de dispositivos médicos y el software que administra las redes eléctricas, dos ámbitos donde un error informático puede tener consecuencias importantes.

La compañía también anunció que está abriendo el código de los artefactos utilizados en la verificación formal para que la comunidad de investigadores y desarrolladores pueda examinarlos y trabajar sobre ellos.

Sin embargo, todavía existen interrogantes importantes sobre la escalabilidad y el costo de esta tecnología. DeepMind realizó el análisis de Signal gratuitamente como parte de un proyecto de investigación, pero no informó cuánto costó ejecutar el procedimiento ni si planea desarrollar un producto comercial basado en esta tecnología.

«Hay un largo trecho por recorrer antes de que podamos escalar esto a todo el software del mundo, y queremos hacerlo», reconoció Chaudhuri.

El avance plantea un cambio relevante para la industria tecnológica: si los agentes de inteligencia artificial consiguen automatizar una parte creciente de la verificación matemática del software, podrían reducirse los tiempos y los costos necesarios para garantizar la seguridad de sistemas críticos.

En un contexto en el que la IA también está siendo utilizada para desarrollar nuevas amenazas informáticas, la capacidad de demostrar matemáticamente que un software es seguro podría convertirse en uno de los campos más importantes de la próxima etapa de la industria.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

WP to LinkedIn Auto Publish Powered By : XYZScripts.com