Investigadores del MIT y Microsoft han desarrollado Murakkab, un sistema que optimiza el diseño y la implementación de flujos de trabajo en inteligencia artificial, mejorando la eficiencia energética y reduciendo costos sin afectar el rendimiento.
Un nuevo sistema denominado Murakkab ha sido desarrollado por investigadores del MIT y Microsoft con el objetivo de optimizar el diseño y la implementación de flujos de trabajo multistep que impulsan aplicaciones de inteligencia artificial. Estos flujos de trabajo, conocidos como agentic workflows, son sistemas de software que utilizan múltiples modelos y herramientas externas para abordar tareas complejas, como el análisis de videos y la respuesta a preguntas relacionadas.
A pesar de su potencial, los sistemas fragmentados actuales presentan ineficiencias que pueden resultar en un uso excesivo de recursos computacionales, energía y costos. Para abordar este problema, Murakkab permite a los desarrolladores describir lo que desean lograr con el flujo de trabajo en términos simples, sin necesidad de detallar todos los aspectos técnicos desde el inicio. El sistema se encarga de identificar automáticamente los mejores modelos y herramientas a utilizar, así como la configuración óptima del hardware necesario durante la ejecución en la nube.
Este enfoque dinámico ajusta las configuraciones en tiempo real según las prioridades del usuario, ya sea minimizando costos o maximizando velocidad. En pruebas realizadas con diversos flujos de trabajo, Murakkab logró reducir significativamente el número de unidades computacionales requeridas para su implementación, lo que se tradujo en una notable disminución del consumo energético y los costos sin afectar el rendimiento.
Los flujos de trabajo agentic son sistemas compuestos por varios agentes autónomos que colaboran utilizando distintos modelos y herramientas para completar tareas complejas. Tradicionalmente, los desarrolladores deben codificar todas las decisiones técnicas desde el principio, definiendo qué agentes e instrumentos usar y cómo equilibrar factores como velocidad frente a costo. Este proceso puede ser complicado debido a la diversidad de modelos y herramientas disponibles, cada uno con sus propias opciones de configuración.
Con Murakkab, los desarrolladores pueden crear un flujo describiendo su intención general para la aplicación sin preocuparse por los detalles específicos. Por ejemplo, al desarrollar una aplicación para preguntas sobre videos, un programador podría especificar simplemente que desea extraer fotogramas clave y generar transcripciones. El sistema entonces determina automáticamente cómo combinar estos elementos eficientemente.
Además, Murakkab permite a los proveedores en la nube visualizar múltiples cargas de trabajo, facilitando una asignación más eficiente de recursos computacionales mientras se satisfacen las necesidades específicas del usuario. En pruebas realizadas con flujos diversos para preguntas sobre videos y generación de código, Murakkab utilizó aproximadamente un 35% menos de recursos computacionales comparado con métodos tradicionales, consumiendo solo un 27% de energía a un costo inferior al 25% del habitual.
Los investigadores planean expandir su sistema hacia flujos más complejos y clústeres computacionales más grandes, explorando nuevas oportunidades para optimizar aplicaciones basadas en inteligencia artificial. Gohar Chaudhry, estudiante graduado en ingeniería eléctrica e informática y autor principal del estudio, destaca: “Hay un gran potencial para hacer estos flujos más óptimos en términos de recursos; debemos considerar esto a gran escala dentro de las plataformas principales en la nube.” Esta investigación ha recibido apoyo parcial por parte de la Semiconductor Research Corporation y la Agencia Darpa del Departamento de Defensa estadounidense.
Murakkab es un sistema desarrollado por investigadores del MIT y Microsoft que optimiza el diseño y la implementación de flujos de trabajo multistep para aplicaciones de inteligencia artificial. Permite a los desarrolladores describir sus intenciones en términos simples, mientras que el sistema se encarga de seleccionar los mejores modelos y herramientas, así como la configuración adecuada del hardware.
Murakkab reduce significativamente el número de unidades computacionales necesarias, lo que resulta en un menor consumo de energía y costos, sin comprometer el rendimiento. En pruebas, logró utilizar solo aproximadamente el 35% de la computación requerida por otros métodos, consumiendo alrededor del 27% de la energía a menos del 25% del costo.
El sistema toma decisiones dinámicas sobre la configuración del flujo de trabajo, lo que significa que si se lanza un nuevo modelo o acelerador GPU, no es necesario que el desarrollador realice ajustes manuales. Murakkab automáticamente identifica las mejores configuraciones para optimizar el rendimiento en tiempo real.