Investigadores desarrollan un algoritmo que combate la proliferación de noticias falsas en tiempo récord

La proliferación de noticias falsas o fake news es un fenómeno en constante aumento en las plataformas digitales, con consecuencias significativas en los ámbitos social, político y económico. Durante mucho tiempo, ha representado una amenaza para la libertad y la democracia. Sin embargo, en la actualidad se ha vuelto aún más urgente abordar este problema debido a la rapidez con la que se propagan las campañas a través de los medios digitales. Un revolucionario algoritmo llamado HypergraphDis ha sido desarrollado por investigadores de IMDEA Networks, la Cyprus University of Technology y LSTECH ESPAÑA SL, que permite detectar estas noticias falsas en las redes sociales y ayuda a combatir su proliferación.

“Propone un método de detección que considera las estructuras sociales complejas entre los usuarios, así como elementos relacionales y semánticos, para determinar la naturaleza de su contenido generado”, explica el Dr. Marius Paraschiv, investigador sénior en IMDEA Networks y uno de los autores de la investigación, en relación a su estudio titulado "HyperGraphDis: Leveraging Hypergraphs for Contextual and Social-Based Disinformation Detection".

Este nuevo algoritmo, HyperGraphDis, no solo amplía la precisión de detección, sino que también reduce significativamente el tiempo de ejecución, haciéndolo mucho más práctico que los métodos competidores.

La eficacia y escalabilidad de HyperGraphDis para afrontar los retos que plantea la propagación de la desinformación se subraya al evaluar cuatro conjuntos de datos de X (antes Twitter) sobre las elecciones presidenciales estadounidenses de 2016 y la pandemia COVID-19, superando a los métodos existentes tanto en precisión como en eficiencia computacional.

El Dr. Paraschiv destaca la importancia de examinar los antecedentes y analizar las relaciones y el entorno de aquellos que difunden información, así como las comunidades a las que pertenecen o su relación con fuentes de desinformación conocidas. Además, señala que las fuentes no necesariamente son los principales generadores de desinformación, sino que pueden actuar como propagadores o amplificadores. Estos individuos introducen la desinformación en una comunidad, donde luego es amplificada por otros miembros. El estudio revela que la desinformación no siempre es directamente verificable y depende del contexto.

HyperGraphDis es un sistema que permite el funcionamiento de una manera única y eficiente

Al combinar redes neuronales de hipergráfico, agrupamiento de gráficos y procesamiento de lenguaje natural, HyperGraphDis logra una detección más eficiente y precisa de la desinformación. Esta combinación de técnicas avanzadas permite comprender textos y detectar comunidades.

Los investigadores han centrado su trabajo en X (antes Twitter) debido a la disponibilidad de conjuntos de datos complejos, aunque HyperGraphDis puede adaptarse a otras plataformas sociales.

Proporciona una mejor comprensión de cómo se propaga y cómo combatirla de manera efectiva, ya que ofrece a los propietarios de plataformas una forma eficaz de mitigar los efectos de la desinformación. Además, facilita respuestas verificadas por hechos y adaptadas al contexto dado.

Desarrollos futuros y retos por enfrentar

Desde la recolección de datos actualizados de X (antes Twitter) (los mensajes se borran, las cuentas se eliminan, el contenido de los mensajes puede editarse y no reflejar el significado original, etc.) hasta la construcción de hipergráficos complejos, ha habido numerosos desafíos en el proyecto. Sin embargo, los investigadores ya están pensando en el futuro y están enfocados en la detección de desinformación multimodal utilizando modelos avanzados como GPT-4. El Dr. Paraschiv concluye que aunque pueda ser el siguiente paso lógico, hay obstáculos importantes que superar, incluyendo problemas de escala y agregación de información de múltiples fuentes.