La revolución que la inteligencia artificial está provocando en el manejo del riesgo tecnológico coloca el factor humano en un lugar protagónico de las estrategias defensivas. Román Orús, co-fundador y director científico de Multiverse Computing, ha destacado la necesidad de reformular este enfoque, explicando que “los modelos se entrenan para cumplir objetivos, pero carecen del contexto humano”. Esta afirmación refleja una de las principales inquietudes en un mundo donde las máquinas pueden tomar decisiones sin comprensión plena de las situaciones humanas.
La evolución de la inteligencia artificial ha superado su función como simple herramienta de análisis o generación de contenido. Para el año 2026, la IA agéntica, que incluye sistemas avanzados capaces de establecer metas, planificar y actuar de forma independiente, tendrá un impacto considerable en la seguridad tanto de organizaciones como de individuos. Este tipo de inteligencia, que no requiere instrucciones detalladas, puede beneficiarse de la autonomía para tomar decisiones inesperadas, lo que presenta un desafío notorio en la manera de gestionar la seguridad.
En un reciente encuentro organizado por TIER8, empresa especializada en neurociencia y ciberseguridad, junto a ISMS Forum, expertos de diferentes instituciones debatieron sobre las implicaciones de la acelerada evolución de la IA. Este avance tecnológico presenta un abismo creciente entre las capacidades para realizar ataques y la habilidad de las organizaciones para responder adecuadamente. Orús destacó que la IA progresa a un ritmo que desafía nuestra capacidad para adaptarnos, demandando nuevas estrategias de control y gobernanza.
Por su parte, Sergio Padilla, miembro de la Junta Directiva de ISMS Forum, subrayó la urgencia de adelantarse a posibles incidentes y gestionar los riesgos futuros de manera más proactiva en lugar de simplemente reaccionar ante ellos. No obstante, el componente humano sigue siendo una preocupación central. La pregunta ahora es cuánto podemos permitir que estos sistemas autónomos interpreten y decidan en nuestro lugar, por lo que Orús llama a fomentar un pensamiento crítico, asegurando que la IA sirva como apoyo, no como sustituto de las decisiones humanas.
La aparición de agentes de IA también redefine el riesgo humano en la ciberseguridad, ya que los ataques podrían ser cada vez más personalizados y persistentes. Desde TIER8, señalan la esencialidad de prepararse para estos nuevos escenarios y entrenar a los usuarios, ya que mantener el control sobre las decisiones se vuelve cada vez más crucial.
En conclusión, el advenimiento de la IA agéntica demanda un cambio profundo en la concepción de la ciberseguridad, que debe conjugar capacidades técnicas y humanas. La verdadera clave reside en diseñar una estrategia que integre la inteligencia defensiva de la IA con un entrenamiento adecuado de los usuarios, en un contexto donde discernir la autenticidad y las intenciones se torna más complicado.
