Investigadores de la Universidad de Cádiz han desarrollado una herramienta que optimiza el software de modelos de lenguaje, reduciendo su consumo energético y mejorando la eficiencia sin alterar su funcionamiento.
Investigadores de la Universidad de Cádiz han desarrollado un enfoque innovador para mitigar el impacto medioambiental de los modelos de lenguaje, como los utilizados por chatGPT y Gemini. Este estudio, publicado en la revista Future Generation Computer Systems, propone optimizar el software que opera estos sistemas sin alterar su comportamiento, lo que resulta en una mejora notable en su eficiencia energética y temporal.
El auge de estos modelos ha transformado la interacción con la tecnología, pero también ha generado una demanda energética considerable. Se estima que el consumo diario asociado a las consultas realizadas a modelos como chatGPT es comparable al gasto energético de miles de hogares. Además, las emisiones generadas son equivalentes a las producidas por un automóvil recorriendo 80.000 km, casi dos vueltas al mundo. Ante esta situación, el trabajo del equipo de la UCA busca abordar el desafío del impacto ambiental desde una perspectiva centrada en los motores de inferencia, que son los programas que utilizan modelos IA ya entrenados para generar respuestas en tiempo real.
La propuesta consiste en una herramienta automática que utiliza un algoritmo genético, inspirado en procesos evolutivos naturales, para optimizar el código de estos motores. Este sistema explora múltiples combinaciones de mejoras en el software y selecciona aquellas que permiten un uso más eficiente del hardware, resultando en versiones optimizadas que no solo reducen el consumo energético sino que también aceleran la ejecución.
Las pruebas realizadas con diferentes tamaños de modelos de lenguaje han mostrado resultados significativos: se logró reducir el consumo energético en más del 13% y disminuir el tiempo de ejecución cerca de un 20%. Estas mejoras son notables frente a las optimizaciones genéricas actualmente aplicadas.
A diferencia de otras estrategias que buscan disminuir el tamaño o complejidad de los modelos —lo cual puede afectar su capacidad de respuesta— este enfoque se centra en mejorar la eficiencia del software subyacente. Esto permite avanzar hacia una inteligencia artificial más sostenible y ágil sin comprometer su funcionamiento.
Los hallazgos abren nuevas líneas de investigación destinadas a reducir el impacto ambiental asociado a la inteligencia artificial y promueven el desarrollo de tecnologías más eficientes y respetuosas con el entorno, especialmente relevante dado el creciente uso masivo de estos sistemas.
El equipo detrás de este trabajo está compuesto por los investigadores Javier Jareño, José Miguel Aragón-Jurado, Juan Carlos De La Torre, Patricia Ruiz, y Bernabé Dorronsoro, todos ellos vinculados a la Escuela Superior de Ingeniería de Cádiz y miembros del grupo de investigación Graphical Methods, Optimization, and Learning (GOAL). Este proyecto ha sido financiado por la Consejería de Universidad, Investigación e Innovación de la Junta de Andalucía bajo el marco del proyecto gCODE.
Referencia bibliográfica:
Eficiencia energética en grandes modelos lingüísticos. Javier Jareño et al. Future Generation Computer Systems. Volume 182, 108483. ISSN 0167-739X. https://doi.org/10.1016/j.future.2026.108483
| Cifra | Descripción |
|---|---|
| 13% | Reducción del consumo energético logrado con la nueva herramienta. |
| 20% | Reducción del tiempo de ejecución logrado con la nueva herramienta. |
La herramienta tiene como objetivo reducir el impacto energético de los modelos de lenguaje de gran tamaño, optimizando el software que ejecuta estos sistemas sin modificar su comportamiento.
Utilizan un algoritmo genético inspirado en procesos de evolución natural para explorar combinaciones de mejoras en el software y seleccionar las que permiten un uso más eficiente del hardware.
Se logró reducir el consumo energético en más de un 13% y el tiempo de ejecución en cerca de un 20%, lo que representa mejoras significativas respecto a las optimizaciones genéricas actuales.
Este trabajo abre nuevas líneas de investigación orientadas a desarrollar tecnologías más eficientes y sostenibles, contribuyendo a una inteligencia artificial que minimice su impacto ambiental.