Centros de Datos: preocupa que los agentes de IA consumen hasta 136 veces más energía que un chatbot

Un estudio del KAIST concluye que los agentes de inteligencia artificial multiplican el consumo eléctrico frente a los chatbots tradicionales. Los investigadores advierten que su adopción masiva podría ejercer una presión sin precedentes sobre la infraestructura energética mundial.

La próxima gran revolución de la inteligencia artificial podría traer consigo un desafío inesperado: el consumo energético. Mientras las grandes tecnológicas compiten por desarrollar agentes de IA cada vez más autónomos, un nuevo estudio del Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST) advierte que estas herramientas requieren una cantidad de electricidad muy superior a la de los chatbots tradicionales.

La investigación concluye que un agente de IA puede consumir hasta 136,5 veces más energía por consulta que un chatbot convencional. Si este tipo de sistemas alcanza una adopción masiva durante los próximos años, los investigadores estiman que la demanda eléctrica de los centros de datos podría crecer muy por encima de las previsiones actuales.

El trabajo fue dirigido por el profesor Rhu Min-soo, quien analizó el comportamiento energético de distintos agentes utilizando un modelo de lenguaje de 70.000 millones de parámetros, un tamaño comparable al de muchos de los sistemas comerciales que hoy utilizan las principales empresas del sector.

Los agentes hacen mucho más que responder preguntas

La diferencia entre un chatbot y un agente de inteligencia artificial va mucho más allá de la interfaz.

Mientras un chatbot responde una consulta y finaliza la conversación, un agente puede planificar, dividir un problema en múltiples etapas, consultar información externa, realizar cálculos, tomar decisiones intermedias y ejecutar diversas acciones de manera autónoma.

Ese proceso implica numerosos ciclos adicionales de razonamiento dentro del modelo de lenguaje, búsquedas en internet, llamadas a herramientas externas y procesamiento continuo.

Toda esa actividad tiene un costo energético considerable.

Según el estudio, resolver una única tarea compleja mediante un agente de IA requiere, en promedio, 348,41 vatios-hora (Wh) de electricidad.

Hasta 136 veces más consumo

Los investigadores evaluaron distintos frameworks desarrollados sobre Llama-3.1-Instruct 70B, el modelo abierto de Meta.

Los resultados muestran diferencias muy marcadas respecto de un chatbot tradicional.

El framework Reflexion llegó a consumir 136,5 veces más energía de GPU que una consulta convencional de un solo turno.

Por su parte, el sistema LATS necesitó aproximadamente 62,1 veces más energía que el modelo base utilizado como referencia.

Además del mayor consumo eléctrico, los agentes también requieren mucho más tiempo para completar una tarea.

El estudio detectó que algunas consultas tardan hasta 153,7 veces más en procesarse que una interacción habitual con un chatbot.

Un problema oculto: las GPU pasan gran parte del tiempo esperando

Uno de los hallazgos más llamativos del trabajo es que el elevado consumo no proviene únicamente del procesamiento.

Las costosas GPU, utilizadas para ejecutar modelos de inteligencia artificial, permanecen inactivas durante más del 50% del tiempo mientras esperan respuestas de herramientas externas, sitios web o distintos servicios necesarios para completar cada tarea.

En otras palabras, una parte importante de la electricidad consumida no corresponde al cálculo en sí, sino al tiempo en que el hardware permanece encendido esperando completar operaciones intermedias.

Este fenómeno abre un nuevo desafío para los desarrolladores, que deberán optimizar no solo los modelos, sino también la forma en que interactúan con aplicaciones y servicios externos.

El desafío para la infraestructura mundial

Los investigadores también realizaron una proyección sobre el posible impacto futuro.

Si los agentes de inteligencia artificial alcanzaran un volumen cercano a 13.700 millones de consultas diarias en todo el mundo, la demanda energética de los centros de datos podría elevarse hasta 199 gigavatios (GW) de potencia.

Según el estudio, esa cifra equivale aproximadamente a la mitad del consumo eléctrico promedio de Estados Unidos.

Para poner el dato en perspectiva, el Laboratorio Nacional Lawrence Berkeley estima que los centros de datos estadounidenses consumieron alrededor de 176 teravatios-hora (TWh) durante 2023, equivalente al 4,4% del consumo eléctrico total del país.

Por su parte, la Agencia Internacional de la Energía (AIE) proyecta que el consumo global de los centros de datos crecerá hasta 945 TWh en 2030, aproximadamente el doble de los niveles actuales.

Sin embargo, los investigadores del KAIST sostienen que la rápida expansión de los agentes de IA podría acelerar aún más esa demanda.

No alcanza con optimizar el software

Para Rhu Min-soo, la solución no pasa únicamente por mejorar la eficiencia de los algoritmos.

El investigador sostiene que será necesario replantear toda la cadena tecnológica que sostiene a la inteligencia artificial.

Eso incluye desarrollar modelos más eficientes, diseñar nuevos microchips especializados y ampliar la infraestructura energética que alimenta los centros de datos.

A medida que la industria avanza desde los chatbots hacia agentes capaces de ejecutar tareas cada vez más complejas de forma autónoma, el debate sobre la inteligencia artificial comienza a incorporar una nueva variable estratégica: el costo energético. Si el futuro de la IA dependerá de sistemas mucho más poderosos, también requerirá centros de datos capaces de sostener un consumo eléctrico que podría convertirse en uno de los mayores desafíos tecnológicos de la próxima década.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

WP to LinkedIn Auto Publish Powered By : XYZScripts.com