La Universidad Politécnica de Madrid lidera el proyecto HARNESS, que forma expertos en IA ética y legal, abordando regulaciones europeas y desarrollando herramientas para proteger derechos fundamentales.
El avance acelerado de la inteligencia artificial (IA) y las tecnologías basadas en datos ha transformado su presencia en la vida cotidiana, abarcando desde asistentes virtuales que comprenden el lenguaje natural hasta vehículos autónomos. Sin embargo, esta evolución trae consigo desafíos significativos, como los generadores de deep fakes, sistemas de vigilancia y algoritmos que pueden influir en procesos democráticos. Ante estas circunstancias, la Unión Europea ha implementado una serie de regulaciones sin precedentes, incluyendo la Ley de IA y el Reglamento General de Protección de Datos, para establecer un marco normativo que asegure un uso ético y legal de estas tecnologías.
En este contexto surge el proyecto HARNESS (Harnessing AI and Data-Intensive Technologies), coordinado por el profesor Víctor Rodríguez-Doncel, del Grupo de Ingeniería Ontológica de la Universidad Politécnica de Madrid (UPM). Este ambicioso proyecto, financiado por la Comisión Europea a través del programa Marie Sk?odowska-Curie, reúne a nueve instituciones líderes de seis países europeos: España, Irlanda, Bélgica, Países Bajos, Italia y Lituania. Su objetivo es formar a una nueva generación de expertos capaces de abordar los retos que plantea la regulación sobre IA y datos.
A lo largo de tres años, HARNESS capacitará a 13 investigadores doctorales mediante un enfoque que combina análisis jurídico, evaluación ética y tecnologías computacionales avanzadas. Según el profesor Rodríguez-Doncel: «Nuestro objetivo es formar a una nueva generación de expertos que puedan navegar por la compleja interacción entre innovación en IA, cumplimiento legal y responsabilidad ética». Esta iniciativa se presenta como esencial para garantizar que el desarrollo tecnológico beneficie a la sociedad en su conjunto.
HARNESS no solo se centrará en formar profesionales; también desarrollará herramientas prácticas como ontologías legibles por máquinas y sistemas automatizados para verificar el cumplimiento normativo. Además, trabajará junto a más de 20 socios industriales para generar más de 40 publicaciones científicas y seis prototipos funcionales. Todas estas herramientas serán accesibles bajo licencias de código abierto, contribuyendo al desarrollo internacional de estándares.
El proyecto abordará tres áreas críticas donde la IA plantea preocupaciones sociales urgentes. Primero, se examinarán los modelos fundacionales de IA y los grandes modelos lingüísticos como ChatGPT para identificar riesgos éticos relacionados con sesgos y desinformación. En segundo lugar, se investigarán los sistemas de IA utilizados en infraestructuras críticas como el sector eléctrico, donde decisiones automatizadas podrían tener consecuencias graves si no se gestionan adecuadamente. Por último, HARNESS explorará cómo los ciudadanos pueden mantener control sobre sus identidades digitales en nuevos ecosistemas descentralizados.
La UPM se posiciona como líder en regulación europea
A medida que España avanza hacia una gobernanza responsable en IA con la creación de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), la UPM juega un papel fundamental al liderar iniciativas nacionales como INESDATA. El profesor Rodríguez-Doncel destaca: «España se está posicionando como líder europeo en gobernanza responsable de la IA», subrayando cómo HARNESS conecta innovaciones locales con experiencias europeas para formar profesionales que diseñen e implementen futuros marcos regulatorios.
Todas las investigaciones generadas por HARNESS estarán disponibles gratuitamente siguiendo principios rigurosos de ciencia abierta. Esto incluye cada línea de código y modelo desarrollado durante el proyecto. La colaboración con organismos internacionales como el W3C asegurará que estos avances sean compartidos ampliamente, permitiendo su adaptación y mejora por parte del sector público y privado.
Preparando a los líderes del futuro digital
Los candidatos doctorales formados bajo este programa adquirirán habilidades únicas demandadas en el mercado laboral actual. Se les preparará para roles emergentes como Directores de Ética en IA o auditores algorítmicos. Cada investigador completará estancias con empresas líderes europeas, enfrentándose a desafíos reales mientras construyen redes profesionales sólidas.
HARNESS está comprometido con formar los expertos necesarios para asegurar que el desarrollo tecnológico respete valores fundamentales y derechos humanos. La UPM reafirma así su posición como referente europeo en gobernanza e innovación responsable en inteligencia artificial.