Investigadores de la Fundación Fisabio y de la Universitat Jaume I de Castelló han llevado a cabo un análisis sobre el potencial transformador de la inteligencia artificial generativa en la investigación en cuidados. Como resultado, han elaborado un decálogo de recomendaciones para promover un uso responsable de estas herramientas en el ámbito científico.
Claves de la noticia
Decálogo propuesto por investigadores
Recomendaciones para un uso ético de IA.
Riesgos metodológicos y éticos
Desafíos en la validez de los resultados.
Enfoque en investigación en cuidados
Importancia del contexto y calidad asistencial.
El estudio, publicado en la revista Enfermería Clínica, investiga cómo esta tecnología puede apoyar diversas fases del proceso investigador, desde la formulación de preguntas hasta la difusión de resultados. La colaboración se ha dado entre el Grupo de Investigación de Enfermería de la Universitat Jaume I (GIENF-241) y el grupo eNURSYS de Fisabio, que forma parte del Departamento de Salud de La Plana. Esta unidad se centra en áreas como sistemas de información, tecnologías aplicadas a los cuidados y evaluación de la calidad asistencial.
A pesar del potencial que ofrecen las herramientas basadas en inteligencia artificial, los autores subrayan que su uso también conlleva desafíos metodológicos, éticos y científicos que deben ser considerados cuidadosamente. En particular, advierten sobre el fenómeno conocido como "alucinación", donde estos sistemas pueden generar textos que parecen rigurosos pero contienen errores o referencias inexistentes. Esto resalta la necesidad imperiosa de revisar toda información generada antes de integrarla en trabajos científicos.
Implicaciones prácticas y consideraciones éticas
Los investigadores enfatizan que aceptar sin cuestionar las respuestas proporcionadas por estos sistemas puede comprometer la calidad y fiabilidad del trabajo investigativo. Este riesgo es especialmente relevante para la investigación en cuidados, donde gran parte del conocimiento se basa en metodologías cualitativas y contextos específicos.
La inteligencia artificial podría ofrecer resúmenes coherentes o interpretaciones plausibles; sin embargo, esto podría simplificar excesivamente las experiencias únicas tanto de pacientes como de profesionales. Además, existe el peligro de que estos modelos reproduzcan sesgos presentes en la producción científica dominante, priorizando enfoques biomédicos y literatura anglosajona sobre perspectivas propias del campo enfermero o contextos culturales específicos.
Más allá de sus aplicaciones prácticas, el estudio plantea un debate sobre la gobernanza en investigación. Subraya que el uso responsable de inteligencia artificial debe alinearse con principios como transparencia y responsabilidad, así como cumplir con normativas internacionales sobre protección de datos y el nuevo Reglamento Europeo sobre Inteligencia Artificial.
Decálogo para una integración responsable
Como contribución principal, el estudio presenta un decálogo dirigido a investigadores en cuidados que resume principios esenciales para un uso responsable de la inteligencia artificial generativa. Entre las recomendaciones destacan:
- Utilizar IA solo cuando aporte valor añadido al humano.
- Verificar sistemáticamente toda información generada.
- No introducir datos sensibles.
- Permanecer atento al contexto y complejidad estudiados.
- Documentar transparentemente el uso de estas herramientas.
- Avaluar continuamente su impacto sobre la calidad científica.
En resumen, este trabajo no solo actúa como guía para una incorporación responsable de la inteligencia artificial en la investigación sino que también enfatiza la capacidad crítica necesaria para utilizarla sin comprometer el rigor metodológico o ético esencial en el ámbito sanitario.
Artículo:
M.J. Valero-Chillerón, I. Llagostera-Reverter, D. Luna-Aleixos y V.M. González-Chordá. «Investigación en cuidados elevada a la IAgésima potencia: inteligencia artificial generativa aplicada al proceso de investigación en cuidados», Enfermería Clínica, https://doi.org/10.1016/j.enfcli.2026.502553
Preguntas sobre la noticia
¿Cuáles son los principales retos de utilizar inteligencia artificial generativa en la investigación en cuidados?
La utilización de inteligencia artificial generativa plantea retos metodológicos, éticos y científicos, como la posibilidad de generar textos con errores o referencias inexistentes, un fenómeno conocido como "alucinación". Esto requiere una revisión crítica de la información generada antes de su inclusión en trabajos científicos.
Qué recomendaciones se incluyen en el decálogo para un uso responsable de la inteligencia artificial en investigación?
El decálogo incluye recomendaciones como utilizar la IA solo cuando aporte valor añadido al trabajo humano, verificar sistemáticamente toda la información generada, evitar introducir datos sensibles y documentar transparentemente el uso de estas herramientas.
Por qué es importante considerar el contexto y la complejidad en la investigación infermera al usar IA?
En la investigación infermera, gran parte del conocimiento se construye a partir de metodologías cualitativas. La IA puede simplificar excesivamente las experiencias de pacientes y profesionales, invisibilizando aspectos fundamentales como la relación terapéutica y los determinantes sociales de salud.
Cómo afecta el uso de IA a la calidad científica en investigaciones en cuidados?
Aceptar automáticamente las respuestas generadas por sistemas de IA sin un análisis crítico puede comprometer la calidad y fiabilidad de la investigación. Es esencial mantener rigor metodológico y ético al integrar estas herramientas en el proceso investigador.
Si (
No(
