La Unión Europea ha dado un paso significativo al acordar, a propuesta del Gobierno de España, la prohibición en todo su territorio de los sistemas de Inteligencia Artificial (IA) que generen 'deepfakes' sexuales. Esta decisión, alcanzada durante una negociación tripartita entre el Parlamento Europeo, la Presidencia del Consejo y la Comisión Europea, responde a una iniciativa presentada por España en enero, tras la controversia desatada por el asistente virtual Grok en la red social X.
Claves de la noticia
Prohibición de deepfakes
Se prohíbe la creación y uso de IA que genere imágenes o vídeos manipulados sexualmente sin consentimiento.
Protección infantil
La ley también busca prevenir la generación de pornografía infantil mediante IA.
Liderazgo español en IA
España se posiciona como líder en el desarrollo de un marco regulatorio europeo confiable para la IA.
El acuerdo se formalizó en la madrugada del 7 de mayo y fue respaldado no solo por España, sino también por Francia. La enmienda aprobada incluye dos prácticas prohibidas: aquellas que generan o manipulan contenido sexual sin el consentimiento expreso de las personas afectadas y las que producen pornografía infantil.
El ministro para la Transformación Digital y de la Función Pública, Óscar López, celebró este avance como parte del liderazgo español en el establecimiento de un modelo europeo de IA que prioriza la confianza. Este acuerdo complementa otras iniciativas del Gobierno español, como la Ley Orgánica para la protección de menores en entornos digitales, actualmente en tramitación.
Simplificación y regulación de la IA
Además de abordar los 'deepfakes', el debate sobre la ley de IA ha incluido discusiones sobre cómo trasladar las obligaciones del Reglamento a normas sectoriales existentes. España se opuso firmemente a esta fragmentación del mercado interior. Finalmente, se acordó transferir solo ciertas legislaciones relacionadas con maquinaria industrial, garantizando mecanismos de salvaguarda para mantener los requisitos específicos relacionados con IA.
También se estableció un registro simplificado para sistemas considerados no riesgosos y se reafirmó la obligación de alfabetización sobre IA para proveedores y responsables del despliegue. Esto busca fomentar un entorno seguro y colaborativo en el desarrollo y uso responsable de tecnologías avanzadas.
Este acuerdo político deberá ser ratificado formalmente por el pleno del Parlamento y los ministros del Consejo antes del receso veraniego, marcando así un hito importante en la regulación europea sobre Inteligencia Artificial.
Preguntas sobre la noticia
¿Qué son los 'deepfakes' y por qué se prohíben en la UE?
Los 'deepfakes' son tecnologías de inteligencia artificial que permiten crear o manipular imágenes, vídeos o audios de manera realista. La prohibición se debe a su uso para generar contenido sexual sin consentimiento, así como pornografía infantil, lo que plantea serias preocupaciones éticas y legales.
¿Cuál es el impacto de esta legislación en la protección de menores?
La legislación busca proteger a niños y adolescentes en entornos digitales, garantizando su derecho a la intimidad y a la propia imagen. Además, contempla penalizar el grooming y los 'deepfakes' de contenido sexual relacionado con menores, considerándolo un agravante en delitos sexuales.
¿Qué otras medidas se han incluido en la reforma de la Ley de IA?
Además de la prohibición de 'deepfakes', se ha discutido sobre mantener un registro simplificado para sistemas no considerados de alto riesgo y fomentar la alfabetización en IA entre proveedores y responsables del despliegue, promoviendo un uso seguro y confiable de estas tecnologías.
Si (
No(
