Proyecto PRI4GENAI: Protección de la Privacidad en la IA Generativa
Un equipo del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN), perteneciente a la Universitat Politècnica de València (UPV), se encuentra inmerso en el desarrollo de asistentes que buscan salvaguardar la privacidad de los usuarios de aplicaciones de inteligencia artificial generativa. Este esfuerzo se enmarca dentro del proyecto Privacy Risks in GenAI for Children, Teens and Adults (PRI4GENAI).
El objetivo principal del proyecto es implementar intervenciones educativas dirigidas especialmente a niños, niñas y adolescentes, con el fin de concienciarles sobre los riesgos asociados a la privacidad en el uso de estas tecnologías. Para ello, se está llevando a cabo un estudio exhaustivo que analiza cómo los usuarios perciben los riesgos relacionados con la privacidad y qué normas consideran necesarias al utilizar IA generativa.
Investigación sobre Deepfakes y Conciencia Social
En este contexto, el equipo del proyecto ha establecido hitos clave para recopilar datos sobre las características de quienes crean deepfakes, sus motivaciones y los objetivos detrás de estas creaciones. Esta información será fundamental para diseñar acciones educativas en colaboración con colegios y desarrollar nuevos asistentes enfocados en la protección de la privacidad.
La popularidad creciente de la IA generativa ha suscitado inquietudes respecto a posibles riesgos para la privacidad, como el intercambio indebido de datos personales o el uso inapropiado de información confidencial. Así lo señala el investigador del VRAIN y catedrático de la UPV, José Such, quien junto a su colega Elena del Val, investigadora también del VRAIN, lidera esta iniciativa.
Hasta ahora, como indica Elena del Val, “la investigación sobre la privacidad en IA generativa ha estado centrada en aspectos técnicos relacionados con los modelos. Sin embargo, hay una falta notable de estudios que aborden esta problemática desde la perspectiva del usuario final”. Con base en los hallazgos obtenidos, el proyecto propondrá intervenciones sociotécnicas que ayuden a los usuarios a gestionar su privacidad al interactuar con herramientas basadas en IA generativa.
El proyecto PRI4GENAI cuenta con el respaldo del Ministerio de Ciencia, Innovación y Universidades y tiene previsto su inicio en septiembre pasado, con una duración estimada hasta septiembre de 2027.
Luis Zurano Conches / Área de comunicación UPV (ACOM)
Si (
No(
