Investigadores de la TUM han descubierto que los modelos de inteligencia artificial en medicina son más vulnerables a ataques de inferencia de membresía, lo que pone en riesgo la privacidad de datos sensibles de pacientes.
Un equipo de investigación ha revelado preocupantes riesgos de privacidad asociados con el uso de modelos de inteligencia artificial (IA) en el ámbito médico, específicamente en la detección de enfermedades como el cáncer. Estos modelos se entrenan utilizando datos de salud de pacientes, y la mera existencia de información personal en estos sistemas puede tener consecuencias negativas si cae en manos equivocadas. La investigación publicada en la revista "Nature" destaca que es posible extraer información sensible de estos modelos con mayor eficacia de lo que se pensaba previamente.
Los investigadores de la Técnica Universidad de Múnich (TUM), junto con colaboradores del Imperial College London y el Hasso-Plattner-Institut (HPI), han demostrado que los cálculos previos sobre la seguridad de los modelos de IA eran engañosos. Las Membership Inference Attacks (MIAs), que permiten determinar si los datos personales han sido utilizados para entrenar un modelo, eran consideradas poco efectivas contra los modelos médicos. Sin embargo, este estudio indica que algunos pacientes pueden ser identificados con una probabilidad cercana al 100%.
Moritz Knolle, investigador principal del proyecto, enfatiza que aunque muchos conjuntos de datos no presentan riesgos significativos, ciertos individuos son vulnerables a ser asociados a sus datos médicos. Esto plantea un riesgo considerable dado que los datos relacionados con la salud son extremadamente sensibles.
El equipo examinó modelos basados en siete conjuntos de datos médicos establecidos, incluyendo imágenes médicas y registros electrónicos. Según Georg Kaissis, profesor del HPI, para llevar a cabo una MIA se requieren tres elementos: acceso al modelo objetivo, un dato específico cuya inclusión se desea verificar y una infraestructura propia para ejecutar modelos similares.
Por ejemplo, un atacante podría intentar acceder a un modelo diseñado para predecir resultados terapéuticos basándose en análisis sanguíneos. Aunque un análisis por sí solo no revela información sobre enfermedades, demostrar que un dato particular fue utilizado podría permitir inferir diagnósticos críticos como cáncer.
Las implicaciones reales de tales ataques son alarmantes. Knolle ofrece un ejemplo hipotético: una persona tratada por cáncer que proporciona sus datos para investigación podría verse afectada años después al solicitar un seguro privado. Si un atacante logra demostrar que su información fue utilizada en un modelo predictivo, esto podría resultar en una clasificación errónea como paciente de alto riesgo sin explicación clara.
A medida que las MIAs resultaron más exitosas entre grupos menos representados en los conjuntos de datos, surge una preocupación adicional sobre la discriminación potencial dentro del ámbito médico. Esto resalta cómo ciertas poblaciones pueden recibir diagnósticos menos precisos debido a sesgos inherentes en los algoritmos.
Dado que los ataques son más efectivos contra modelos complejos y potentes, los investigadores sugieren implementar evaluaciones rigurosas sobre riesgos individuales antes del lanzamiento público de nuevos modelos. Además, proponen controles estrictos sobre quién tiene acceso a estos sistemas. Actualmente existen medidas efectivas como la diferencial privacy, que introducen variaciones mínimas en los datos durante el entrenamiento para dificultar las MIAs sin comprometer significativamente el rendimiento del modelo.
A medida que avanza la tecnología médica basada en IA, es crucial abordar estas preocupaciones éticas y prácticas para proteger tanto a pacientes como a sus datos personales.
Los MIA son técnicas que permiten a un atacante determinar si los datos de una persona específica han sido utilizados para entrenar un modelo de inteligencia artificial. Estos ataques pueden comprometer la privacidad del paciente, revelando información sensible sobre su salud.
La vulnerabilidad a MIA puede tener graves consecuencias para los pacientes, como ser clasificados erróneamente como de alto riesgo por aseguradoras, lo que podría resultar en primas más altas o dificultades para obtener seguros, incluso si ya no padecen la enfermedad.
Se recomienda implementar controles estrictos sobre el acceso a los modelos de IA y aplicar técnicas como la 'Privacidad Diferencial' durante el entrenamiento del modelo, que introduce pequeñas variaciones en los datos para dificultar la realización de MIA sin afectar significativamente el rendimiento del modelo.