La adopción de agentes autónomos de IA está transformando la automatización en las organizaciones, pero también crea nuevos riesgos cibernéticos. Expertos sugieren un modelo "human-in-the-loop" para equilibrar eficiencia y seguridad, enfatizando la necesidad de supervisión y control ante la rápida evolución de estas tecnologías.
La rápida adopción de agentes autónomos de inteligencia artificial (IA) está revolucionando la automatización de procesos críticos en las organizaciones, pero también está generando una nueva superficie de riesgo en ciberseguridad que muchas empresas aún no están preparadas para gestionar, según expertos del sector.
Claves de la noticia
Agentes autónomos en IA
Ejecutan acciones y decisiones independientes en sistemas corporativos.
Riesgos principales
Escalada de privilegios, accesos no autorizados y errores en cadena.
Modelo human-in-the-loop
Combina IA con supervisión humana para equilibrar seguridad y eficiencia.
A diferencia de los sistemas tradicionales de IA, los agentes autónomos no solo responden consultas o generan contenido, sino que pueden ejecutar acciones, interactuar con múltiples sistemas corporativos y tomar decisiones de forma independiente dentro de flujos de trabajo complejos. Esta capacidad impulsa beneficios en eficiencia y escalabilidad, pero también introduce retos significativos en seguridad, gobernanza y control.
Entre los riesgos más destacados se encuentran la posibilidad de escalada indebida de privilegios, accesos no autorizados a información sensible, la ejecución de acciones no previstas y la propagación en cadena de errores cuando estos agentes operan sin una supervisión humana adecuada.
Alberto Román, Sales Director para Centro y Sur de Europa de Synack, advierte que el principal desafío no es solo tecnológico, sino de confianza y control. Según Román, "la cuestión ya no es si las organizaciones van a adoptar agentes autónomos, sino cómo garantizar que sus acciones puedan ser supervisadas, auditadas y validadas en entornos críticos".
Human-in-the-loop: un enfoque híbrido para la seguridad
El crecimiento de los agentes autónomos está llevando a muchas organizaciones a replantear sus modelos de seguridad tradicionales, evolucionando hacia enfoques híbridos que combinan la automatización mediante IA con la validación humana en los puntos más sensibles de los procesos.
Este modelo, conocido como human-in-the-loop, se perfila como clave para equilibrar innovación, eficiencia operativa y gestión del riesgo en la nueva generación de sistemas basados en IA. Sin embargo, la velocidad de adopción de estas tecnologías supera en muchos casos la capacidad de las organizaciones para establecer marcos sólidos de gobernanza y control, generando una brecha entre el potencial operativo y la madurez de los mecanismos de supervisión.
A medida que estos sistemas se integran en procesos empresariales críticos, desde la gestión de infraestructuras hasta la automatización de tareas de seguridad, la necesidad de modelos claros de responsabilidad, trazabilidad y validación se vuelve cada vez más urgente. La ciberseguridad evoluciona así hacia un modelo basado en la confianza, donde la capacidad para verificar y validar las decisiones de la IA es central en la estrategia de protección.
Contexto sectorial y regulatorio
La aparición de agentes autónomos de IA forma parte de una tendencia más amplia de automatización avanzada impulsada por inteligencia artificial generativa, que está transformando sectores como la ciberseguridad, las operaciones IT y la gestión empresarial.
Regulaciones como el Reglamento Europeo de Inteligencia Artificial (AI Act) comienzan a establecer marcos de referencia para el uso de estos sistemas, especialmente en casos de alto riesgo, lo que subraya la importancia de contar con mecanismos robustos de supervisión y control.
Synack y la validación continua de seguridad
Synack, empresa fundada por antiguos agentes de la NSA, ofrece pruebas de penetración continuas a través de su plataforma Human + AI, que combina inteligencia artificial con una comunidad rigurosamente seleccionada de investigadores de seguridad. Su herramienta Sara AI Pentesting, impulsada por el Synack Autonomous Red Agent, realiza reconocimiento, mapeo de superficie de ataque y validación inicial de vulnerabilidades a gran escala, mientras que expertos humanos validan la explotabilidad real y aportan creatividad y criterio que la automatización no puede replicar.
Esta combinación permite a las organizaciones reducir riesgos de forma proactiva, cumplir con normativas y adelantarse a amenazas cibernéticas en constante evolución. Synack ha realizado casi 10 millones de horas de pruebas de seguridad para proteger activos críticos, desde sistemas financieros globales hasta redes del Departamento de Defensa de EE. UU., y ha sido reconocida como líder en ciberseguridad impulsada por IA.
Si (
No(
