Un informe del OEIAC advierte sobre los riesgos de la inteligencia artificial en procesos electorales, destacando su uso en desinformación y manipulación global, con casos documentados en varios países.
El Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC), ubicado en la Universitat de Girona (UdG), ha emitido una advertencia sobre los riesgos que la inteligencia artificial (IA) puede representar para los procesos electorales. Un estudio encargado por el Departament de Justícia i Qualitat Democràtica de la Generalitat de Catalunya revela que la IA se ha convertido en una amenaza sistémica para la integridad electoral a nivel global. Según el informe, el año 2024 marcó un punto crítico, ya que más de 60 países, casi la mitad del mundo, experimentaron incidentes de desinformación o manipulación activa mediante herramientas de IA.
El documento titulado Estudi sobre els riscos de la IA en l’àmbit dels processos electorals identifica cinco categorías de herramientas con alto potencial manipulador: los deepfakes (videos y audios falsos pero realistas), los Grandes Modelos de Lenguaje (LLMs) capaces de generar desinformación a gran escala, los bots de amplificación automática, la microsegmentación psicográfica para enviar mensajes hiperpersonalizados y la suplantación automatizada de identidad.
El informe documenta varios incidentes significativos ocurridos entre 2023 y 2026. En Turquía, durante 2023, candidatos opositores denunciaron la difusión de audios falsos generados por el gobierno de Erdogan. En Pakistán, en 2024, se compartieron imágenes engañosas de candidatos para influir en el voto, coincidiendo con una desconexión masiva de internet el día electoral. Asimismo, en Corea del Sur, se registraron 129 incidentes relacionados con videos deepfake durante las elecciones parlamentarias.
En los Estados Unidos, destaca un caso en enero de 2024, cuando un chatbot de IA en la red social X (Grok) informó erróneamente que la vicepresidenta Kamala Harris había perdido el plazo para presentar su candidatura en nueve estados. En México, el Instituto Nacional Electoral implementó un chatbot llamado “Inés” para resolver dudas electorales; sin embargo, se documentaron 44 incidentes fraudulentos relacionados con IA. En Argentina, horas antes de las elecciones municipales en Buenos Aires, circuló un video deepfake donde un candidato supuestamente se retiraba y pedía votar por su rival.
A nivel catalán, el estudio también resalta varios casos preocupantes. El partido Aliança Catalana utilizó una imagen falsa generada por IA para fomentar la xenofobia en Manresa, manipulando datos oficiales sobre población extranjera. Esta imagen alcanzó más de 132.000 visualizaciones antes que la asociación Verificat pudiera desmentirla. Además, Sílvia Orriols, líder del partido, difundió otra imagen generada por IA donde aparecía disparando contra Carles Puigdemont, lo que ha sido objeto de denuncia judicial por delito de odio.
Dicho esto, Vox se ha consolidado como uno de los partidos europeos que más campañas de desinformación ha llevado a cabo en redes sociales. En mayo de 2019 crearon más de 600 grupos y páginas en Facebook que generaron más de 763.000 visitas. En noviembre de 2025 lanzaron una campaña utilizando imágenes generadas por IA o robadas que mostraban mujeres siguiendo un canon físico específico para difundir mensajes alineados con su programa político a través de TikTok.
Albert Sabater Coll, director del OEIAC y coordinador del estudio, enfatiza que “la magnitud del fenómeno requiere un cambio en nuestra perspectiva”. Además, subraya que “la velocidad con que estos contenidos falsos se viralizan supera cualquier capacidad para desmentirlos”, advirtiendo que el objetivo no es solo engañar sino erosionar la confianza ciudadana en el sistema democrático.
Lamentablemente, una conclusión clave del informe es el alarmante desfase entre innovación tecnológica y respuesta legislativa. Aunque tanto el Reglamento Europeo sobre IA como el Reglamento sobre Servicios Digitales clasifican sistemas que influyen en elecciones como “de alto riesgo”, las normativas estatal y catalana son claramente insuficientes. La LOREG (Ley Orgánica del Régimen Electoral General) no aborda adecuadamente los retos digitales actuales y está diseñada para amenazas analógicas.
Dada esta situación urgente, Arlet Brufau i Centelles, coautora del estudio, sostiene que “el contexto actual exige una respuesta rápida y efectiva para enfrentar los riesgos existentes y potenciales derivados de manipulaciones algorítmicas”. De este modo se busca proteger un derecho fundamental: elegir libremente a nuestros representantes dentro del marco democrático.
A fin de abordar estos desafíos, el informe propone una estrategia multinivel que combina salvaguardias técnicas —como estándares C2PA y marcas digitales— junto con una gobernanza ética y un marco regulador preventivo. Entre las medidas destacadas están: elaborar un código ético prohibiendo deepfakes engañosos y microsegmentación basada en datos sensibles; desarrollar legislación sobre integridad electoral; impulsar normas sobre transparencia publicitaria digital; e implementar programas masivos de alfabetización digital crítica dirigidos a ciudadanos y autoridades electorales.
El informe identifica cinco categorías de herramientas con alto potencial de manipulación: deepfakes, grandes modelos de lenguaje (LLMs), bots de amplificación automática, microsegmentación psicográfica y suplantación de identidad automatizada.
Se documentan incidentes en varios países, como Turquía, Pakistán, Corea del Sur, Estados Unidos y México, donde se utilizaron herramientas de IA para difundir desinformación o manipular la opinión pública durante las elecciones.
El informe sugiere una respuesta multinivel que incluye salvaguardas técnicas, gobernanza ética y un marco regulador preventivo. Propone medidas como un código de buenas prácticas y legislación sobre integridad electoral.