WMG lanza un nuevo proyecto para abordar la IA responsable en los servicios financieros
Iniciativa pionera en el ámbito de la inteligencia artificial
La implementación segura y responsable de la IA generativa en el ámbito de los consejos financieros está siendo objeto de estudio por parte de expertos del Warwick Manufacturing Group (WMG), perteneciente a la Universidad de Warwick. Este esfuerzo se ha visto respaldado por una nueva financiación del programa UKFin+, proporcionada por el Engineering and Physical Sciences Research Council (EPSRC).
El proyecto, que tendrá una duración de 12 meses, es liderado por la doctora Anita Khadka y el profesor Carsten Maple. Surge en un contexto donde crecen las preocupaciones sobre la desinformación generada por IA, los consejos erróneos y la incertidumbre regulatoria en contextos financieros de alto riesgo, lo que podría llevar a confundir a los consumidores y alterar los mercados.
Colaboración entre universidades para un futuro ético
En colaboración con expertos de la Universidad de Keele y la Universidad de Coventry, el proyecto titulado *Responsible AI Systems for Ethical Finance* se propone investigar cómo los Modelos de Lenguaje Grande, como el GPT-4, funcionan en contextos financieros reales, tales como asesoramiento en inversiones, evaluación crediticia y automatización orientada al cliente. El objetivo es explorar cómo se pueden detectar, gestionar y gobernar los riesgos asociados a las alucinaciones.
La doctora Khadka, profesora asistente en IA confiable y responsable en WMG, subrayó: “A medida que la IA generativa se integra cada vez más en los servicios financieros, es fundamental asegurar la fiabilidad, auditabilidad y alineación regulatoria de estos sistemas. Este proyecto reúne conocimientos técnicos, legales y empresariales para abordar estos desafíos urgentes.”
Estructura del proyecto: tres áreas clave
El proyecto se organiza en tres paquetes de trabajo interrelacionados:
- Desarrollo de un marco para evaluar IA: WMG liderará esta tarea enfocándose en la detección de alucinaciones y evaluando salidas del modelo utilizando ejemplos realistas provenientes de casos financieros críticos.
- Análisis legal y regulatorio: La Universidad de Coventry llevará a cabo un análisis comparativo sobre la gobernanza de IA en el Reino Unido, UE y EE.UU., creando un kit de herramientas para alinear el uso de LLM con las regulaciones financieras.
- Translación de riesgos a herramientas prácticas: La Universidad de Keele se centrará en convertir los riesgos asociados a IA en herramientas que aseguren el cumplimiento dentro de los procesos empresariales.
El objetivo final es proporcionar directrices claras, mejores prácticas y herramientas específicas para auditorías que ayuden tanto a instituciones financieras como a reguladores a fomentar una implementación segura y ética de la IA en sus operaciones.
Aportaciones académicas hacia un futuro más seguro
El profesor Maple enfatizó que este proyecto forma parte del programa dedicado a la IA confiable llevado a cabo por el Grupo de Investigación Secure Cyber Systems en WMG. “Nuestra meta es ofrecer investigación de clase mundial con caminos directos hacia su impacto práctico”, afirmó.
Por su parte, el doctor Dimitrios Kafteranis, profesor asociado del Centro de Investigación para Negocios Resilientes y Sociedad en Coventry University, agregó: “Aunque la tecnología avanza rápidamente, el marco legal suele quedarse atrás. Es esencial que estas nuevas tecnologías respeten estándares legales, derechos humanos y principios éticos.”
"Este proyecto ofrece un marco crucial para navegar las oportunidades y riesgos que presenta la avanzada IA dentro del sector FinTech", concluyó la doctora Geetika Jain desde Keele University. "Los resultados influirán directamente tanto en reguladores como en instituciones financieras".
La iniciativa cuenta con el apoyo de FinTech West, organismo representativo regional para fintechs del suroeste británico, que reunirá a partes interesadas procedentes del sector financiero, reguladores y proveedores tecnológicos.
Descubre más sobre la investigación en Ciberseguridad e IA del WMG.
Si (
No(
