Fujitsu lidera un proyecto para crear una plataforma global contra la desinformación, colaborando con instituciones académicas y empresas. La iniciativa, respaldada por el gobierno japonés, busca desarrollar tecnologías para detectar y analizar información falsa, mejorando la seguridad económica y promoviendo soluciones efectivas hasta 2025.
Fujitsu ha comenzado un proyecto destinado a crear una plataforma para contrarrestar la desinformación, en colaboración con un consorcio de importantes instituciones académicas y empresas del sector privado. En julio de 2024, esta multinacional japonesa fue elegida como el operador principal de la iniciativa mediante una convocatoria pública de propuestas lanzada por la Organización para el Desarrollo de Nuevas Energías y Tecnologías Industriales de Japón (NEDO). Este esfuerzo se inscribe dentro del Programa de I+D de Tecnología Clave y Avanzada a través de la Colaboración Intercomunitaria (K Programa), el cual fue creado con la cooperación de la Oficina del Gabinete de Japón, el Ministerio japonés de Economía, Comercio e Industria (METI) y otros ministerios japoneses pertinentes, con el objetivo de fortalecer y promover la seguridad económica en Japón.
El consorcio formado por Fujitsu incluye a diversas entidades como el Instituto Nacional de Informática (NII), NEC Corporation, el Instituto de Investigación Keio del SFC, el Instituto de Ciencias de Tokio (anteriormente conocido como Tokyo Tech), así como las universidades de Tokio, Aizu, Nagoya, y Osaka.
Tecnología para el desarrollo y las funciones del consorcio.
El propósito de este proyecto consiste en crear la primera plataforma integral dedicada a las contramedidas contra la desinformación a nivel mundial. Esta plataforma tendrá la capacidad de gestionar información falsa, abarcando desde la detección inicial hasta la recopilación de pruebas, el análisis y la evaluación. Se espera que su finalización ocurra a finales del año fiscal 2025.
Vivek Mahajan, Vicepresidente Corporativo, CTO y CPO en Fujitsu Limited, expresa: «Estamos encantados de trabajar en esta iniciativa con un consorcio de primer nivel de organizaciones japonesas académicas y del sector privado que tienen un historial probado en la lucha contra la desinformación. Además de nuestros socios del consorcio, Fujitsu colaborará con las agencias gubernamentales pertinentes y otras organizaciones para desarrollar una solución de contramedidas robusta y contribuir a resolver este grave desafío social.».
En este proyecto, Fujitsu asumirá el papel de operador principal, liderando las iniciativas de I+D, la integración de tecnologías y la edificación de la plataforma global. Además, al aprovechar las más recientes tendencias en tácticas y tecnologías de desinformación, Fujitsu desarrollará casos de uso dirigidos a organizaciones tanto del sector público como del privado, lo que permitirá una implementación práctica de los hallazgos obtenidos en la investigación.
Análisis de información según el tipo de medio y detección de desinformación (Encargados: NII, NEC).
2. Manejo de pruebas y apoyos (Encargados: Instituto de Investigación Keio en SFC, Fujitsu, Universidad de Osaka).
NII: Con el objetivo de aprovechar su experiencia en la detección de medios falsos, el NII se encuentra en proceso de desarrollo de una tecnología capaz de identificar deepfakes en imágenes, vídeos y audios. Esta innovación se basará en análisis de publicaciones realizadas en redes sociales, así como en otros tipos de contenido. La nueva tecnología será capaz de determinar el método utilizado para crear el contenido multimedia, así como las áreas que han sufrido manipulación, además de proporcionar una puntuación de confianza que servirá como evidencia adicional.
NEC se encargará de crear una tecnología que permita la comprensión de los medios de comunicación, la cual será capaz de extraer contenido en forma de texto, imágenes, vídeo y audio. Esta tecnología se utilizará para analizar las coincidencias con las publicaciones en redes sociales y para reunir información complementaria.
Instituto de Investigación Keio del SFC y Fujitsu: Con una amplia experiencia en el ámbito de la arquitectura de confianza en Internet, el Instituto de Investigación Keio del SFC se unirá a Fujitsu para crear una tecnología que integre las pruebas obtenidas en línea. Esto incluirá los resultados derivados de la tecnología 1 anterior. Las pruebas serán organizadas y almacenadas en un gráfico de pruebas/apoyos con el fin de verificar su autenticidad y evaluar su impacto.
Universidad de Osaka: Con el fin de desarrollar una tecnología que facilite la recopilación de datos de sensores como fuente de pruebas, la Universidad de Osaka utilizará su experiencia en el análisis de datos IoT. En situaciones donde la información del área objetivo sea insuficiente, el sistema será capaz de inferir las pruebas utilizando los datos disponibles de las áreas circundantes. Esta iniciativa, que se basa en una recopilación proactiva e impulsada por IA, simula el proceso humano de recolección e inferencia de información y representa un avance significativo.
3. Realización de una evaluación minuciosa de la autenticidad (Encargados: Fujitsu, Instituto Tecnológico de Nagoya).
Fujitsu se dedica al desarrollo de una tecnología que tiene como objetivo analizar la coherencia de las pruebas relacionadas con la información objetivo, utilizando gráficos de pruebas y apoyos tecnológicos. Gracias a esta innovación, se podrá llevar a cabo un análisis detallado sobre la autenticidad de la información, facilitando así la presentación de los resultados y las pruebas de apoyo de manera clara y accesible para el usuario.
Asimismo, se llevará a cabo el desarrollo de un LLM japonés enfocado en contrarrestar la desinformación, aprovechando tanto su superordenador (Fugaku) como su conocimiento en LLM (Takane). Este modelo especializado tiene como objetivo potenciar la comprensión de las noticias y los datos provenientes de las redes sociales, así como mejorar las habilidades de razonamiento lógico. Además, facilitará la realización de inferencias con alta velocidad y precisión para verificar la autenticidad de la información, al mismo tiempo que contribuirá a reducir las alucinaciones.
Instituto Tecnológico de Nagoya: En colaboración con el Instituto Tecnológico de Nagoya, Fujitsu se dedicará al desarrollo de una interfaz de usuario y tecnología para la entrega de información que esté fundamentada en la ciencia cognitiva. Se tomarán en cuenta aspectos relacionados con la psicología humana, como por ejemplo, el efecto de influencia continua. Este avance permitirá a los usuarios evaluar con mayor precisión la veracidad de la información y promoverá acciones adecuadas, lo que incluye esfuerzos para prevenir la difusión involuntaria de datos falsos.
Durante el año fiscal 2024, el enfoque del proyecto estará en examinar casos de uso tanto para empresas privadas como para instituciones públicas. Además, se procederá a definir los requisitos funcionales y a dar inicio a la I+D de tecnologías específicas. Se espera que el desarrollo del sistema final se complete hacia finales del año fiscal 2025.
Con el objetivo de evaluar el impacto de la desinformación, el Instituto de Ciencias de Tokio, la Universidad de Tokio y la Universidad de Aizu, gracias a su experiencia en ciencias sociales computacionales vinculadas a los medios sociales, se embarcarán en el desarrollo de una nueva tecnología.
Las tres instituciones se enfocarán en ampliar los LLM para crear un modelo de IA que permita analizar las características de la desinformación, tales como su similitud con casos previos y la rapidez con la que se difunde. Este análisis se centrará en aspectos como la fuente, el contenido y el contexto social de los mensajes, utilizando datos extraídos de las redes sociales.
A través de esta metodología, será posible evaluar parámetros importantes, incluyendo la escala de proliferación y el impacto social que genera la desinformación. Este avance tecnológico para visualizar y cuantificar el efecto social de la desinformación representa un esfuerzo significativo y muy avanzado en este campo.
4. Evaluación del impacto de la desinformación (Encargados: Instituto de Ciencias de Tokio, Universidad de Tokio, Universidad de Aizu).
La plataforma que se está desarrollando tiene como objetivo, a través de Fujitsu y sus socios del consorcio, contribuir a la estabilidad económica en un contexto donde el riesgo de desinformación sigue en aumento. Además, con el respaldo de NEDO, se busca fomentar el crecimiento de nuevas industrias, mejorar la competitividad internacional y fortalecer la posición global de Japón.
El Instituto Nacional de Informática cuenta con la colaboración del Prof. Junichi Yamagishi, quien señala: «Combatir la desinformación exige un arsenal sofisticado e integrado de tecnologías. Aprovechando años de investigación puntera en tecnología de detección de medios falsos, vamos a crear una base sólida para un potente sistema de defensa contra la desinformación.»
Motoo Nishihara, quien ocupa el cargo de Vicepresidente Ejecutivo Corporativo y Director Técnico en NEC Corporation, expresa: «Nos entusiasma unirnos a esta importante iniciativa. Dado que la IA está relacionada con la generación de desinformación cada vez más sofisticada, es fundamental implementar contramedidas impulsadas por la IA. A través del uso de las tecnologías avanzadas de IA de NEC, buscamos contribuir al desarrollo de soluciones realmente efectivas.»
El profesor Hiroyuki Kusumoto, quien forma parte de la Facultad de Medio Ambiente y Estudios de la Información en la Universidad de Keio, junto con el profesor Shigeya Suzuki, que trabaja en el proyecto de la Escuela de Posgrado de Medios de Comunicación y Gobernanza también de la Universidad de Keio, expresan: «En la actualidad, no solo las personas transmiten información en Internet, sino que también lo hacen los sistemas de información que emplean LLM. Con el uso de tecnología avanzada en identidad digital, desarrollaremos una plataforma capaz de rastrear detalladamente tanto la identidad del remitente como las relaciones entre la información. Esto permitirá un análisis multifacético, facilitando así decisiones más informadas y precisas para el usuario final.».
El Instituto de Ciencias de Tokio cuenta entre su personal con el profesor Kazutoshi Sasahara, quien señala: «La creciente escala y sofisticación de la desinformación suponen una grave amenaza para nuestra vida cotidiana y nuestra democracia. Dado que la IA hace que la verdad sea cada vez más indistinguible de la falsedad, el desarrollo de tecnologías para evaluar la influencia de la desinformación es una tarea crítica y urgente. Nuestro objetivo es encabezar el desarrollo de herramientas ampliamente accesibles para combatir este creciente desafío».
La amenaza que representa la desinformación, en constante aumento tanto en escala como en complejidad, afecta gravemente a nuestra vida diaria y a los principios democráticos. La dificultad para diferenciar entre lo verdadero y lo falso se ve acentuada por los avances en inteligencia artificial. Por ello, es esencial desarrollar tecnologías que permitan medir el impacto de esta desinformación. El compromiso del equipo es liderar la creación de herramientas accesibles que enfrenten este reto emergente.
El profesor Masashi Toyoda, de la Universidad de Tokio, expresa: «Nos llena de satisfacción poder colaborar con especialistas de diferentes disciplinas para enfrentar el desafío que representa la desinformación. Utilizaremos una variedad extensa de conocimientos y tecnologías para desarrollar una infraestructura fundamental que facilite la evaluación del impacto de la desinformación.»
Yasuhiro Hashimoto, profesor asociado en la Universidad Aizu, señala: «La desinformación, así como su generación y propagación, representa una seria amenaza para la estabilidad social y la seguridad nacional. Esto requiere un enfoque multidisciplinario que integre la informática, la ingeniería y las ciencias sociales, entre otros campos. Nuestro objetivo es desarrollar tecnologías que permitan visualizar las complejas relaciones y estructuras a gran escala donde circula la desinformación, creando un entorno que facilite la observación y el análisis rápido de su dinámica.»
La profesora Yuko Tanaka, quien trabaja en el Instituto Tecnológico de Nagoya, expresa: «Me complace participar en este proyecto que integra tecnologías de vanguardia para hacer frente a la circulación cada vez más sofisticada y grave de la desinformación. Estoy contribuyendo al desarrollo de un diseño de interfaz que comunique eficazmente los resultados -desde la detección de la desinformación hasta su evaluación- teniendo en cuenta las características cognitivas humanas.».
Shin'ichi Arakawa, quien es profesor asociado en la Universidad de Osaka, expresa: «Nos entusiasma participar en un proyecto de I+D que aborda el creciente problema de la desinformación. Dentro del proyecto, nos centraremos en la investigación y el desarrollo prácticos, y en lograr un impacto en el mundo real, yendo más allá de la evaluación teórica.»
Si (
No(
