Investigadores de la Universidad de Alicante, liderados por Estela Saquete, desarrollan un sistema para detectar noticias falsas y lenguaje nocivo, así como contenido generado por inteligencia artificial. Este proyecto, en colaboración con el Centro de Inteligencia Digital de Alicante, utiliza tecnologías avanzadas como el procesamiento del lenguaje natural y deep learning. Su objetivo es crear un entorno digital seguro y combatir la desinformación, con un enfoque inicial en la administración pública local.
La catedrática Estela Saquete, al frente del departamento de Lenguajes y Sistemas Informáticos de la Universidad de Alicante (UA), lidera un innovador estudio que busca desarrollar un sistema capaz de detectar noticias falsas, lenguaje nocivo y contenidos generados automáticamente por inteligencia artificial. Este proyecto se enmarca dentro de las iniciativas del Centro de Inteligencia Digital de la provincia de Alicante (CENID), una colaboración entre la UA, la Diputación de Alicante y la Universidad Miguel Hernández de Elche.
El objetivo principal de esta investigación es abordar los desafíos actuales relacionados con la desinformación, el discurso de odio y el contenido generado por IA. Para ello, se están analizando diversas tecnologías y herramientas digitales, como el procesamiento del lenguaje natural y técnicas avanzadas de deep learning. Estas herramientas tienen como fin ayudar a las instituciones públicas a crear un entorno digital más seguro.
El proyecto propone un modelo tecnológico basado en la creación de un dataset, o conjunto estructurado de datos, que permitirá el desarrollo de modelos lingüísticos avanzados. Estos modelos estarán optimizados para detectar aspectos como la confiabilidad, la violencia y el contenido proveniente de inteligencia artificial. Además, se entrenarán progresivamente para mejorar su precisión en cada área analizada.
Se prevé diseñar e implementar una interfaz que integre los algoritmos y modelos del sistema, facilitando así su aplicación en el entorno digital. Inicialmente, este enfoque estará centrado en la provincia de Alicante, donde se llevará a cabo una evaluación interna y pruebas experimentales en una administración pública local para validar su eficacia.
El desarrollo del proyecto contempla varias fases. En primer lugar, se analizarán las amenazas que pueden afectar a diferentes sectores sociales. Posteriormente, se elaborará un informe sobre los tipos de violencia que sufren tanto ciudadanos como trabajadores administrativos.
A medida que avanza el estudio, se mejorará la tecnología del procesamiento del lenguaje natural (PLN) para detectar y mitigar estas amenazas. Finalmente, se presentará el proyecto en diversas convocatorias nacionales e internacionales con el fin de aumentar su visibilidad e impacto.
Esta iniciativa representa un paso adelante en materia de seguridad digital, ofreciendo soluciones innovadoras para combatir la desinformación y fortalecer la ciberseguridad en un mundo cada vez más interconectado.