Deepfakes

Microsoft ha lanzado una iniciativa que ofrece a los gobiernos europeos acceso gratuito a un programa de ciberseguridad, con el objetivo de fortalecer la resiliencia ante amenazas impulsadas por inteligencia artificial. Este programa incluye compartir inteligencia sobre ciberataques, inversiones en capacidad de ciberseguridad y colaboración para interrumpir operaciones criminales. Los 27 estados miembros de la UE y otros países recibirán actualizaciones en tiempo real sobre amenazas y alertas de vulnerabilidades.

Patricia Ruiz Guevara, coordinadora de estrategia de IA y desinformación de la Fundación Maldita.es, visitó el Campus de UDIT para hablar sobre el impacto de la inteligencia artificial en la desinformación. Destacó cómo esta tecnología amplifica contenidos manipulados y crea nuevos desafíos para la sociedad. Subrayó que estamos tan expuestos a información falsa que dudamos de lo real, y enfatizó la importancia de verificar datos y educar digitalmente a la ciudadanía para combatir este fenómeno.

El uso de identidades falsas mediante deepfakes en entrevistas laborales es un problema creciente, según un informe de Unit 42. La creación de estas identidades sintéticas es fácil y rápida, incluso para principiantes. Se recomienda a las empresas implementar medidas de verificación y capacitación para detectar posibles suplantaciones durante el proceso de selección.

Microsoft está ayudando a las empresas a desarrollar y lanzar inteligencia artificial (IA) confiable, abordando los desafíos de seguridad y cumplimiento normativo. A través de herramientas como Azure AI Foundry y PyRIT, las organizaciones pueden gestionar riesgos asociados a la IA generativa, optimizando su implementación en entornos complejos. Este enfoque integral busca empoderar a los desarrolladores y garantizar que las aplicaciones de IA sean seguras, eficientes y alineadas con las regulaciones vigentes.

El proyecto PRI4GENAI, impulsado por el Instituto VRAIN de la Universitat Politècnica de València, se centra en proteger la privacidad de los usuarios de aplicaciones de inteligencia artificial generativa. A través de un estudio sobre la percepción de riesgos y normativas de privacidad, se desarrollarán asistentes y programas educativos para concienciar a niños y adolescentes sobre estos temas. La iniciativa, que comenzó en septiembre de 2024, finalizará en 2027.

Kaspersky, en el Mes Europeo de la Ciberseguridad 2024, destaca amenazas tecnológicas que afectan las relaciones interpersonales: abuso de imágenes íntimas, stalkerware y deepfakes. La empresa promueve la alfabetización digital y la educación sobre consentimiento para combatir estos problemas, subrayando la importancia de proteger los derechos individuales y fomentar una cultura de respeto.