Reflexiones sobre la Inteligencia Artificial en el Congreso “Humanidad y Algoritmos”
El congreso “Humanidad y algoritmos”, organizado por el Observatorio de Bioética, se centró en los desafíos éticos, regulatorios y antropológicos que plantea la inteligencia artificial (IA) en medicina y sociedad. Este evento tuvo lugar en la Universidad Católica de Valencia San Vicente Mártir, donde se llevó a cabo un programa que combinó conferencias magistrales y mesas redondas, revisando las tensiones entre la innovación algorítmica y el respeto a la dignidad humana.
La jornada comenzó con un saludo institucional del rector José Manuel Pagán. La filósofa Adela Cortina dio inicio al debate con su conferencia titulada “Marco ético para una IA confiable”, donde argumentó que los sistemas inteligentes solo pueden ser considerados “fiables” si incorporan mecanismos efectivos de justicia algorítmica, rendición de cuentas y participación deliberativa.
Cortina enfatizó que la neutralidad tecnológica es un mito, afirmando que “los algoritmos amplifican sesgos latentes si los desarrolladores no actúan con propósito corrector y transparencia hacia el usuario final”. Esta perspectiva marcó el tono del congreso, que busca integrar la ética desde la fase de diseño de la IA, en lugar de abordarla tras su implementación.
Análisis sobre Gobernanza Algorítmica y Consentimiento Informado
La primera mesa redonda se enfocó en la gobernanza algorítmica desde las perspectivas del derecho y la ingeniería. El profesor Enrique Estellés destacó que simplemente publicar el código fuente no es suficiente; lo crucial es lograr una transparencia funcional que identifique variables críticas, objetivos de optimización y límites de uso.
A su vez, el jurista Ricard Martínez conectó esta necesidad con la próxima entrada en vigor del Reglamento Europeo de IA y el futuro Espacio Europeo de Datos Sanitarios, normas que exigirán certificaciones previas para los sistemas utilizados en biomedicina. Desde el ámbito de la bioética clínica, Federico de Montalvo advirtió que la mera presencia de IA en consultas puede generar efectos placebo o nocebo, subrayando la importancia de un consentimiento informado “aumentado”, adaptado a la alfabetización digital de cada paciente.
José Justo Megías, desde un enfoque antropológico, señaló que aunque los algoritmos carecen de dignidad propia como instrumentos, pueden vulnerarla si afectan la autonomía o igualdad. En este contexto, Rafael Amo hizo hincapié en una alerta epistemológica: “la medicina basada en correlaciones estadísticas no debe confundirse con conocimiento causal justificado”. Al cierre de esta mesa, Luis Echarte advirtió sobre un “tecno-autonomismo” que delega decisiones complejas a sistemas opacos, diluyendo así la responsabilidad moral del profesional sanitario.
Cultura e Implicaciones Éticas en el Uso de Algoritmos
Bajo una perspectiva cultural, Andrea Ciucci, representante de la fundación vaticana RenAIssance, describió a la IA como un “espejo de nuestras expectativas colectivas”. Propuso tres filtros para discernir su uso: creatividad responsable, refuerzo de los lazos comunitarios y esperanza realista para evitar tanto el tecno-utopismo como el tecno-apocalipsis. Su intervención resaltó que el debate sobre algoritmos va más allá del ámbito técnico o jurídico; también es narrativo y simbólico.
Cerraron el evento los juristas Vicente Bellver y Alfonso Ballesteros, quienes coincidieron en la necesidad de someter los sistemas automatizados a los principios clásicos del estado de derecho: publicidad, irretroactividad y proporcionalidad. Además, abogaron por habilitar vías de apelación cuando los algoritmos afecten derechos fundamentales.
A modo de conclusión, se delineó una hoja de ruta clara: incorporar la ética en el desarrollo de IA, exigir auditorías independientes antes del despliegue clínico y mantener bajo control democrático lo que se ha denominado como “la caja negra” de modelos complejos. El Observatorio de Bioética anunció también una próxima publicación con las conclusiones y recomendaciones surgidas durante este significativo congreso.
Mira todos los vídeos del congreso aquí.
Revisa todos los vídeos del congreso aquí.
Si (
No(
