Elon Musk restringe las funciones de edición de imágenes en Grok debido a la creciente preocupación por la pornografía no consentida y las quejas sobre violaciones de derechos de imagen.
Elon Musk, el magnate detrás de la red social X y de la plataforma de inteligencia artificial Grok, ha decidido implementar restricciones en las funciones de edición y generación de imágenes de su aplicación. Esta decisión surge tras una creciente ola de quejas sobre la creación de contenido sexualizado y violento, especialmente dirigido a mujeres y niñas, lo que ha suscitado preocupaciones sobre la violación del derecho a la propia imagen y el honor. Además, varios gobiernos, incluido el español, han amenazado con prohibiciones si no se toman medidas adecuadas.
Las capacidades de Grok para generar vídeos pornográficos sin consentimiento y simular agresiones se dispararon en X a finales del año pasado, superando rápidamente la capacidad de los organismos reguladores para intervenir. En este contexto, la ministra de Juventud e Infancia, Sira Rego, solicitó a la Fiscalía General del Estado que investigue a X por presuntos delitos relacionados con la difusión de material sexualmente violento contra menores. Esta acción se suma a iniciativas similares adoptadas por otros gobiernos europeos que incluso han considerado prohibir X.
Musk anunció en su red social que "la generación y edición de imágenes actualmente está limitada a suscriptores de pago". Sin embargo, esta medida no establece salvaguardias efectivas para prevenir la creación de contenidos ilegales; simplemente restringe su acceso a aquellos dispuestos a pagar. De este modo, los usuarios aún pueden generar dicho contenido bajo su propia responsabilidad.
El empresario sostiene que la responsabilidad legal recae en el usuario que crea o publica contenido ilegal. "Cualquiera que use Grok para crear contenido ilegal o use X para publicar contenido ilegal afrontará consecuencias", afirmó Musk. Esta postura minimiza la obligación de la plataforma en cuanto al control del tipo de contenido generado.
A finales de diciembre, el fenómeno del uso indebido de imágenes no consentidas se volvió común en la red social. A pesar de esto, Musk había restado importancia al asunto inicialmente, llegando incluso a compartir una imagen suya en bikini como un intento de normalizar las nuevas funciones. Sin embargo, las reacciones tanto del público como de los gobiernos han llevado a Musk a limitar temporalmente estas capacidades solo a usuarios identificables.
Ricard Martínez, director de la Cátedra de Privacidad y Transformación Digital en la Universidad de Valencia, ha señalado que es ilegal sexualizar imágenes sin consentimiento. “No se puede sexualizar sin permiso ninguna imagen”, enfatizó Martínez, quien argumenta que todos tenemos derecho a nuestra propia imagen y privacidad.
Martínez también critica el enfoque adoptado por Musk respecto a la responsabilidad final sobre estos contenidos. Según él, tanto los creadores como las plataformas tienen un papel crucial en evitar estas situaciones mediante un análisis proactivo del contenido generado.
La proliferación de imágenes sexualizadas no solo vulnera derechos fundamentales sino que también puede dar lugar a prácticas delictivas como la sextorsión. La empresa Kaspersky ha observado un aumento en el uso del malware Stealerium, diseñado para robar datos mientras automatiza extorsiones sexuales.
Es alarmante que más del 90% de las agresiones sexuales relacionadas con imágenes no consentidas afecten a mujeres. Mary Anne Franks, profesora en la Universidad George Washington y presidenta de Derechos Civiles Cibernéticos, advierte sobre el riesgo creciente: “Las mujeres son las canarias en la mina respecto al abuso por parte de inteligencia artificial”. Franks destaca que este problema podría extenderse más allá del ámbito personal hacia figuras públicas y políticas si no se toman medidas adecuadas.