El Politécnico de Milán intensifica su lucha contra la desinformación digital mediante la finalización de dos proyectos europeos enfocados en la detección de deepfakes: FF4ALL y FUN-Media.
Estas iniciativas han sido llevadas a cabo por el Image and Sound Processing Lab (ISPL), perteneciente al Departamento de Electrónica, Información y Bioingeniería. Los profesores Stefano Tubaro y Paolo Bestagini han coordinado el trabajo, con la colaboración de los investigadores Sara Mandelli y Luca Comanducci. Estos proyectos marcan un avance significativo en el desarrollo de tecnologías confiables para verificar contenidos digitales y proteger a los usuarios.
Detección de imágenes y voces sintéticas
El proyecto FF4ALL se ha centrado en el análisis de las técnicas utilizadas para generar y difundir imágenes y videos sintéticos. En este contexto, el laboratorio ha creado nuevas herramientas para detectar rostros artificiales, combinando información tridimensional con características estructurales. Esto ha mejorado la capacidad de los modelos para identificar contenido falso, incluso cuando se presentan compresiones o modificaciones posteriores. Uno de los logros destacados es el desarrollo del conjunto de datos WILD, que compila imágenes generadas por modelos avanzados, lo que resulta útil para identificar las tecnologías empleadas.
Por su parte, el proyecto FUN-Media ha abordado la problemática emergente de los deepfakes vocales, una amenaza aún poco comprendida. Los investigadores han desarrollado nuevas arquitecturas basadas en modelos conocidos como “Mixture of Experts”, capaces de integrar varios sistemas especializados para mejorar la eficacia en la detección. También se han explorado enfoques que se centran en reconocer anomalías en señales vocales y técnicas destinadas a identificar la tecnología generativa responsable de crear estos contenidos.
Afrontando desafíos tecnológicos
A medida que la inteligencia artificial generativa hace que los contenidos falsos sean cada vez más realistas y difíciles de distinguir, los resultados obtenidos por FF4ALL y FUN-Media son cruciales para desarrollar herramientas esenciales que combatan la desinformación, la manipulación y los riesgos asociados al social engineering.
"Además de la detección, el proyecto también ha abordado el problema de la atribución, es decir, identificar la tecnología generativa responsable de crear un contenido audio."
Paolo Bestagini, docente del Departamento de Electrónica, Información y Bioingeniería.
Estos avances no solo representan un paso adelante en términos tecnológicos, sino que también subrayan la importancia creciente de combatir las amenazas digitales en nuestra sociedad actual.
Más información sobre el proyecto aquí.
Si (
No(
