El CEPD y el SEPD respaldan la simplificación de la Ley de IA, pero exigen salvaguardias robustas para proteger los derechos fundamentales y asegurar la rendición de cuentas en su aplicación.
El Comité Europeo de Protección de Datos (CEPD) y el Supervisor Europeo de Protección de Datos (SEPD) han emitido un dictamen conjunto sobre la propuesta de la Comisión Europea en relación con el «ómnibus digital sobre la IA». Esta iniciativa busca simplificar la aplicación de ciertas normas armonizadas bajo la Ley de IA, con el fin de asegurar su implementación efectiva.
A pesar del apoyo a los objetivos que persigue esta propuesta, tanto el CEPD como el SEPD advierten que **la simplificación administrativa no debe comprometer la protección de los derechos fundamentales**. En su dictamen, se reconoce la complejidad del entorno de la inteligencia artificial y se valoran positivamente los esfuerzos por reducir las cargas para las organizaciones. Sin embargo, algunos cambios sugeridos podrían poner en riesgo la protección de las personas en este contexto.
«La innovación y la eficiencia son cruciales y pueden coexistir con el mantenimiento de la rendición de cuentas de los proveedores de IA. Acogemos con satisfacción los espacios controlados de pruebas a escala de la UE y los procedimientos simplificados para promover la innovación y apoyar a las pymes en Europa. Sin embargo, las autoridades de protección de datos deben mantener un papel central en lo que respecta al tratamiento de los datos personales».
Anu Talus, Presidente del CEPD
El dictamen también plantea preocupaciones respecto a una posible ampliación en el tratamiento de categorías especiales de datos personales, como aquellos relacionados con etnias o salud, para detectar y corregir sesgos en sistemas y modelos de IA. El CEPD y el SEPD sugieren que estos datos solo deberían ser utilizados en contextos donde el riesgo asociado sea suficientemente grave.
Además, desaconsejan eliminar la obligación actual que obliga a registrar sistemas de IA considerados como alto riesgo. Según ellos, esta supresión podría debilitar significativamente la rendición de cuentas y fomentar un uso indebido por parte de proveedores que buscan evitar escrutinios públicos.
«La simplificación es bienvenida cuando aclara las obligaciones, empodera a las personas y refuerza la confianza. Debe mantenerse un cuidadoso equilibrio reduciendo la carga administrativa siempre que sea posible».
Wojciech Wiewiórowski, Supervisor Europeo de Protección de Datos
El CEPD y el SEPD celebran la creación de espacios controlados para pruebas a escala europea destinados a fomentar la innovación. No obstante, insisten en que es vital contar con una supervisión adecuada por parte de las autoridades competentes durante estas pruebas. También proponen que el CEPD tenga un rol consultivo dentro del Comité Europeo de Inteligencia Artificial para asegurar coherencia en estos espacios.
Asimismo, ambos organismos apoyan mejorar la cooperación entre entidades encargadas del respeto a derechos fundamentales y autoridades del mercado. Sin embargo, enfatizan que es esencial clarificar el rol administrativo sin comprometer la independencia ni competencias esenciales para las autoridades responsables.
Tanto el CEPD como el SEPD abogan por mantener obligatoria para proveedores e implementadores de IA garantizar una adecuada alfabetización sobre estos sistemas entre su personal. Cualquier nueva obligación impuesta debería complementar las responsabilidades existentes sin sustituirlas.
Finalmente, expresan su inquietud ante posibles retrasos en implementar disposiciones clave relacionadas con sistemas considerados como alto riesgo. Dada la rápida evolución del campo tecnológico, instan a los legisladores a adherirse al calendario original establecido para ciertos requisitos fundamentales como los relacionados con transparencia.