El Instituto de Ciencias de los Datos e IA de la Universidad de Navarra se ha unido al proyecto IA+Igual para desarrollar un modelo de certificación de algoritmos utilizados en herramientas de IA aplicadas a recursos humanos y mercado laboral. El objetivo es mitigar sesgos y garantizar un uso ético y confiable de esta tecnología. El proyecto culminará con la elaboración de un Libro Blanco que contendrá recomendaciones y propuestas para fortalecer la marca empleadora y generar confianza en la sociedad.
Como partner académico, el Instituto de Ciencias de los Datos e IA (DATAI) de la Universidad de Navarra se ha unido al proyecto IA+Igual. Según el acuerdo firmado por ambas entidades, el equipo de investigadores designado por DATAI trabajará en colaboración con el equipo auditor y el Consejo Asesor de IA+Igual para elaborar un Libro Blanco. Este documento académico, basado en evidencia empírica, servirá como recomendación para desarrollar un modelo de certificación de algoritmos utilizados en herramientas de IA aplicadas a procesos de recursos humanos y al mercado laboral. El objetivo es detectar y mitigar los sesgos para asegurar un uso ético y confiable de esta tecnología en el ámbito del empleo, que la UE califica como de alto riesgo.
Marisa Cruzado, CEO de CVA, liderará el equipo de DATAI en colaboración con IA+Igual. Este equipo está compuesto por investigadores expertos en equidad algorítmica, como Rubén Armañanzas, y ética de la IA, como Alejo Sisón e Ignacio Ferrero, y es dirigido por Jesús López-Fidalgo. Según López-Fidalgo, "En línea con nuestro trabajo de investigación aplicada, vamos a trabajar junto a los ingenieros de IN2 y los miembros del Consejo Asesor de IA+Igual para asegurar que el modelo de certificación de los algoritmos de IA en RR. HH promueva una digitalización ética, justa y confiable".
Auditoría empírica para evaluar la situación actual.
El trabajo de análisis empírico de algoritmos que se están utilizando en herramientas aplicadas a recursos humanos ya ha comenzado por parte de IA+Igual. Su objetivo es establecer un modelo de auditoría que asegure el uso eficiente de la IA en este campo. Marisa Cruzado, CEO promotora de IA+Igual, explica la importancia de cumplir con los criterios de transparencia, explicabilidad y privacidad en procesos que afectan la vida y carrera de las personas, garantizando así el cumplimiento de la normativa laboral y la igualdad de oportunidades. El trabajo de auditoría ya ha sido iniciado para investigar lo que está sucediendo. Este análisis empírico, en un proyecto tan innovador como el que se está llevando a cabo desde IA+Igual, nos está permitiendo adentrarnos en un mundo en transformación. Además de la ética, la transparencia y la confiabilidad, también influyen otros parámetros como los normativos o reputacionales. Por esta razón, Cruzado destaca la colaboración con un grupo multidisciplinario de expertos que aportan su conocimiento desde diferentes áreas para no dejar escapar ningún detalle.
En Europa, se está llevando a cabo una propuesta pionera que busca promover la colaboración estrecha entre arquitectos e ingenieros de datos, desarrolladores, empresas usuarias y miembros del Consejo Asesor de IA+Igual. Esta visión multidisciplinar ahora se ha asociado al potencial científico y académico de DATAI. Marisa Cruzado concluye que este innovador proyecto culminará con la elaboración de un Libro Blanco que contendrá recomendaciones para un modelo de certificación, así como la propuesta de un sello de calidad específico para el ámbito laboral. El objetivo principal es fortalecer la marca empleadora de las empresas, atraer el mejor talento -incluyendo a los colectivos más vulnerables- y generar confianza y motivación tanto entre los profesionales como en la sociedad.
Si (
No(
