La llegada de los sistemas de inteligencia artificial (IA) autónomos está revolucionando la gestión del riesgo tecnológico, destacando la importancia del factor humano en las defensas. Román Orús, cofundador y director científico de Multiverse Computing, ha señalado la necesidad de redefinir este enfoque, advirtiendo que «los modelos se entrenan para cumplir objetivos, pero no tienen el contexto del ser humano».
La evolución de la IA ha superado su función como simple herramienta para responder preguntas o generar contenido. Para el año 2026, con la introducción de la IA agéntica, se espera que estos sistemas avanzados no solo reciban objetivos, sino que también sean capaces de planificar cómo alcanzarlos, adaptando su estrategia de manera autónoma. Esto representa un desafío de seguridad significativo para organizaciones e individuos, ya que estos sistemas pueden operar sin instrucciones detalladas, lo que les permite tomar decisiones imprevistas.
En un reciente encuentro organizado por TIER8, empresa española especializada en neurociencia y ciberseguridad inmersiva, junto con ISMS Forum, expertos en la materia se reunieron para discutir las implicaciones de la rápida evolución de la IA. La capacidad de la nueva tecnología para identificar vulnerabilidades y adaptarse constantemente está generando una creciente brecha entre las capacidades de ataque y la habilidad de las organizaciones para responder eficazmente.
Román Orús afirmó que la evolución de la IA supera nuestra capacidad de asimilación y subrayó la necesidad de implementar nuevas capas de control y gobernanza. Sergio Padilla, miembro de la Junta Directiva de ISMS Forum, recalcó la urgencia de no solo reaccionar ante incidentes, sino de anticipar y gestionar futuros riesgos de manera proactiva.
El riesgo técnico es relevante, pero el factor humano es un desafío igualmente importante. La discusión se centra en cuán dispuestos estamos a permitir que los sistemas autónomos interpreten la realidad y tomen decisiones por nosotros. Orús hizo un llamado a fomentar el pensamiento crítico en la sociedad, enfatizando que la IA debe ser usada como herramienta de apoyo y no como un reemplazo de la toma de decisiones humanas.
Asimismo, la introducción de agentes de IA transforma la percepción del riesgo humano en ciberseguridad. Ya no se trata solo de amenazas estandarizadas, sino de ataques personalizados y persistentes. Desde TIER8 se destaca la necesidad de anticiparse a estos nuevos escenarios, subrayando la importancia de entrenar a los usuarios para mantener el control sobre las decisiones.
En conclusión, el surgimiento de la IA agéntica demanda un cambio significativo en la concepción de la ciberseguridad, tanto a nivel técnico como humano. La clave está en desarrollar una estrategia que combine la capacidad defensiva de la IA con un entrenamiento adecuado para los usuarios, en un mundo donde la habilidad de reconocer el engaño se convierte en un desafío cada vez más complejo.
