Sérgio Jesus, doutorado da FCUP, ganhou o Prémio "Vencer o Adamastor" por sua pesquisa sobre a equidade e explicabilidade em inteligência artificial, destacando os riscos de decisões precipitadas em sistemas automatizados.
Sérgio Jesus, doctorando en Ciencia de Computadores por la Facultad de Ciencias de la Universidad de Oporto (FCUP), ha sido galardonado con el premio “Vencer o Adamastor” por su tesis titulada “Evaluación Robusta de Equidad y Explicabilidad en Inteligencia Artificial”. Este reconocimiento, que asciende a 20.000 euros, se otorga a jóvenes científicos en el ámbito de las tecnologías de información y comunicación. La ceremonia de entrega tendrá lugar el próximo 6 de julio a las 17 horas en el Auditorio Ferreira da Silva de la FCUP, con la presencia del Presidente de la República, António José Seguro.
La investigación tiene como objetivo fundamental hacer que la inteligencia artificial (IA) sea más justa. Actualmente, sistemas automáticos deciden quién recibe un préstamo o quién es considerado sospechoso, lo que puede llevar a decisiones erróneas basadas en datos sesgados. Estos sistemas no solo aprenden a partir de los datos que se les proporcionan, sino que también pueden amplificar los prejuicios existentes, generando consecuencias negativas para individuos y sociedades enteras.
Sérgio Jesús, quien trabaja en Feedzai, una empresa especializada en ciencia de datos, desarrolló métodos rigurosos para identificar estos sesgos. Su metodología se inspira en ensayos clínicos y prácticas utilizadas en sistemas de recomendación, permitiendo evaluar el impacto real de la IA y las explicaciones ofrecidas en las decisiones tomadas por expertos. En lugar de depender únicamente de métricas simplificadas, realizó experimentos a gran escala con analistas profesionales dedicados a la detección de fraudes.
A través de su investigación, Jesús demostró que incluso los sistemas diseñados con buenas intenciones pueden convertirse en máquinas propensas a conclusiones precipitadas si no se gestionan adecuadamente. Su estudio reveló que existen sesgos relacionados con grupos etarios más avanzados, lo que puede incrementar las tasas de fraude detectadas.
Como resultado directo del trabajo realizado por Jesús, se ha creado y puesto a disposición una base de datos pública conocida como Bank Account Fraud (BAF), diseñada específicamente para estudiar los sesgos en modelos de IA. Esta base representa un avance significativo al ser el primer conjunto tabular público y realista destinado al análisis de justicia y robustez bajo condiciones sesgadas.
Además, se ha desarrollado una nueva versión del marco Aequitas Flow, que permite una evaluación sistemática y completa sobre la equidad en modelos de IA. Ambas herramientas han generado un considerable interés dentro del ámbito académico y profesional, acumulando más de 250.000 descargas. La expectativa es que estas contribuciones ayuden a investigadores y desarrolladores a construir sistemas más responsables y éticos.
Sérgio Jesús considera este premio como una “honra” y un reconocimiento al esfuerzo colectivo detrás de su tesis. Agradece especialmente a sus orientadores y colegas quienes jugaron un papel crucial durante su trayectoria académica. El tema central fue influenciado por expertos como Pedro Saleiro, Chief AI Officer en Opnova, y Pedro Bizarro, cofundador de Feedzai.
El premio Vencer o Adamastor, organizado por el Instituto de Ingeniería de Sistemas y Computadores (INESC) junto al diario PÚBLICO, busca destacar trabajos innovadores que no solo demuestren excelencia científica sino también potencial para contribuir al desarrollo económico.
El objetivo de su investigación es hacer que la inteligencia artificial (IA) sea más justa, abordando cómo puede tomar decisiones precipitadas y amplificar sesgos presentes en los datos. Su trabajo busca desarrollar métodos para evaluar la equidad y explicabilidad en sistemas de IA.
Sérgio Jesus utilizó una metodología inspirada en ensayos clínicos y prácticas de sistemas de recomendación para probar el efecto de la IA y las explicaciones en las decisiones de expertos, realizando experimentos a gran escala con analistas profesionales en detección de fraude.
Su trabajo ha dado lugar a la creación del conjunto de datos Bank Account Fraud (BAF), que es una base de datos pública diseñada para estudiar el sesgo en modelos de IA, así como una nueva versión del framework Aequitas Flow para la evaluación sistemática de la justicia en modelos de IA.