Investigadores del MIT han desarrollado "EnergAIzer", una herramienta que estima rápidamente el consumo energético de cargas de trabajo de IA en centros de datos, mejorando la eficiencia y sostenibilidad.
El auge de la inteligencia artificial (IA) está generando un impacto significativo en el consumo energético de los centros de datos. Según el Lawrence Berkeley National Laboratory, se estima que estos centros podrían consumir hasta el 12 por ciento de toda la electricidad en EE. UU. para 2028. Por esta razón, mejorar la eficiencia energética de estas instalaciones es una prioridad para los científicos que buscan hacer que la IA sea más sostenible.
Con este objetivo, investigadores del MIT y del MIT-IBM Watson AI Lab han desarrollado una herramienta de predicción rápida que permite a los operadores de centros de datos estimar el consumo energético asociado a la ejecución de cargas de trabajo específicas en diferentes procesadores o chips aceleradores de IA. Este nuevo método proporciona estimaciones confiables en cuestión de segundos, a diferencia de las técnicas tradicionales que pueden tardar horas o incluso días en ofrecer resultados.
La herramienta desarrollada no solo facilita la gestión eficiente de recursos limitados entre múltiples modelos y procesadores de IA, sino que también permite a los desarrolladores evaluar el consumo energético potencial antes de implementar nuevos modelos. Kyungmi Lee, investigadora postdoctoral del MIT y autora principal del estudio, destaca: “El desafío de la sostenibilidad en IA es una cuestión urgente que debemos abordar. Esperamos que nuestro método, al ser rápido y conveniente, motive tanto a los desarrolladores como a los operadores a considerar la reducción del consumo energético”.
Lee ha colaborado con Zhiye Song, estudiante graduado en ingeniería eléctrica y ciencias computacionales; Eun Kyung Lee y Xin Zhang, gerentes de investigación en IBM Research; Tamar Eilam, científico jefe en IBM Research; y Anantha P. Chandrakasan, provost del MIT. La investigación se presentará esta semana en el IEEE International Symposium on Performance Analysis of Systems and Software.
Dentro de un centro de datos, miles de unidades de procesamiento gráfico (GPUs) realizan operaciones para entrenar y desplegar modelos de IA. El consumo energético varía según la configuración y carga laboral específica. Los métodos tradicionales para predecir este consumo suelen descomponer las tareas en pasos individuales, emulando cada módulo dentro de la GPU uno por uno. Sin embargo, esto puede resultar extremadamente lento para cargas laborales grandes como el entrenamiento o preprocesamiento.
Los investigadores del MIT decidieron utilizar información menos detallada pero más rápida para acelerar el proceso predictivo. Identificaron patrones repetitivos en las cargas laborales que les permitieron generar información necesaria para estimaciones energéticas rápidas pero confiables.
A pesar de su rapidez, los investigadores notaron que su estimación inicial no contemplaba todos los costos energéticos asociados. Cada ejecución en una GPU implica un costo fijo por configuración y otro adicional por cada operación sobre un conjunto de datos. Además, factores como fluctuaciones hardware o conflictos en el acceso a datos pueden afectar el rendimiento energético.
Para mejorar su modelo, recopilaron mediciones reales que les permitieron ajustar sus estimaciones con términos correctivos. Así lograron obtener estimaciones rápidas y precisas: EnergAIzer puede calcular el consumo energético con un margen de error aproximado del 8%, comparable con métodos tradicionales mucho más lentos.
A medida que avanzan las pruebas con configuraciones futuras y emergentes, Lee enfatiza: “Para tener un impacto real en sostenibilidad necesitamos herramientas que ofrezcan soluciones rápidas sobre energía a diseñadores hardware, operadores y desarrolladores”. Esta investigación fue financiada parcialmente por el MIT-IBM Watson AI Lab.
El método EnergAIzer es una herramienta de predicción rápida desarrollada por investigadores del MIT que permite a los operadores de centros de datos estimar el consumo de energía al ejecutar cargas de trabajo de inteligencia artificial en procesadores o chips aceleradores. A diferencia de los métodos tradicionales, que pueden tardar horas o días, EnergAIzer proporciona estimaciones confiables en cuestión de segundos.
EnergAIzer permite a los desarrolladores evaluar el consumo energético potencial de un nuevo modelo antes de su implementación. Esto les ayuda a tomar decisiones más informadas sobre la eficiencia energética, optimizando así la asignación de recursos en centros de datos y contribuyendo a la sostenibilidad en el uso de inteligencia artificial.
Las pruebas realizadas con EnergAIzer han demostrado que puede estimar el consumo energético con un margen de error aproximado del 8%, lo cual es comparable a los métodos tradicionales que requieren mucho más tiempo para producir resultados.