Estudio revela que la percepción de justicia en entrevistas con avatares de IA varía según el género y la raza, afectando la confianza de los candidatos tras recibir una negativa.
La creciente integración de la Künstliche Intelligenz (KI) en los procesos de selección de personal ha suscitado un debate sobre su equidad. Un estudio reciente revela que los candidatos confían mayoritariamente en los avatares que conducen las entrevistas, pero esta confianza se ve afectada cuando reciben una negativa. La percepción de justicia en estas decisiones depende significativamente de las características del avatar utilizado durante la entrevista.
El estudio, realizado por investigadores de la Universidad Técnica de Múnich (TUM) y la Universidad de Lund, analizó cómo los participantes perciben las decisiones tomadas por avatares en entrevistas simuladas. En total, 220 personas de Alemania, Reino Unido y Estados Unidos participaron en entrevistas para un puesto ficticio en atención al cliente, siendo evaluados por un avatar fotorealista que podía interactuar y hacer preguntas.
Los resultados mostraron que los participantes miraban más el rostro del avatar si su color de piel era diferente al suyo. Sin embargo, a pesar de este comportamiento, la confianza inicial en la inteligencia artificial era alta, independientemente de las similitudes o diferencias entre el candidato y el avatar. Este panorama cambió drásticamente después de recibir una negativa: muchos comenzaron a cuestionar la justicia del proceso.
Cuando los participantes recibieron una respuesta negativa, aquellos cuya apariencia coincidía con la del avatar tendieron a sentirse más perjudicados. Esto contrasta con aquellos que tenían diferencias significativas en género o raza con el avatar; estos últimos eran menos propensos a sentir que su rechazo se debía a prejuicios.
Enkelejda Kasneci, profesora en TUM y autora principal del estudio, subraya la importancia de considerar cómo nuestro comportamiento social influye en el diseño de tecnologías como la inteligencia artificial. Asegura que aunque los modelos puedan ser técnicamente justos, su percepción puede variar drásticamente dependiendo del contexto social y visual presentado durante las interacciones.
Este hallazgo resalta la necesidad urgente de abordar no solo el desarrollo técnico de herramientas basadas en KI sino también su impacto social. La investigación sugiere que para mejorar la aceptación y efectividad de estos sistemas en procesos como el reclutamiento, es crucial integrar aspectos relacionados con el comportamiento humano y las percepciones sociales desde las fases iniciales del diseño tecnológico.
A medida que más empresas adoptan estas tecnologías avanzadas, entender cómo afectan a los candidatos será esencial para garantizar procesos justos y transparentes.
La percepción de justicia en las decisiones de contratación influye significativamente por las características del avatar. Los candidatos que comparten características como el género o la raza con el avatar tienden a sentirse tratados de manera más injusta, incluso más que aquellos que se diferencian en estos aspectos.
Los hallazgos sugieren que no solo es importante que los modelos de IA sean programados sin sesgos, sino también considerar cómo los usuarios perciben estas tecnologías. Un diseño que tenga en cuenta el comportamiento social puede mejorar la aceptación y percepción de justicia en procesos como el reclutamiento.
La investigación incluyó simulaciones de entrevistas donde aproximadamente 220 participantes interactuaron con avatares fotorealistas. Se utilizó tecnología de seguimiento ocular (eye-tracking) para analizar cómo los participantes respondían a diferentes características del avatar durante las entrevistas.
Las empresas deben prestar atención a cómo los candidatos perciben la equidad de las decisiones tomadas por IA, considerando tanto el diseño del sistema como la apariencia del avatar. Esto puede ayudar a mitigar percepciones negativas y aumentar la confianza en el proceso.