Seguridad de la IA robótica: por qué debe preocupar a las empresas

In part one of this blog series – The Next Security Frontier: Securing the Future of Agentic AI with Digital Trust – we introduced the rise of Agentic AI and the foundational role that digital trust must play as these intelligent agents gain operational independence.

Ahora, en la segunda parte, profundizaremos en por qué la seguridad de la IA agéntica es importante para las empresas hoy en día, y qué está en juego si no conseguimos proteger esta nueva clase de IA transformadora.

¿Qué es la IA agenética y por qué tanto revuelo?

We’re entering a new era of artificial intelligence: Agentic AI. Unlike traditional AI systems that simply respond to inputs, Agentic AI refers to autonomous agents that can:

• Tome decisiones en tiempo real
• Iniciar acciones de forma independiente
• Funcionar sin problemas a través de API, servicios en la nube y ecosistemas de datos empresariales.

This evolution takes AI from automation to true autonomy – and it unlocks unprecedented efficiency and scalability across industries like supply chain management, customer service, finance, and cybersecurity.

Oportunidad y riesgo

While Agentic AI presents massive opportunities, it also introduces new security challenges:

• Blurring identity boundaries between human users, machines, and digital agents
• Expanding attack surfaces across interconnected systems and APIs
• Compromising data integrity and trust if autonomous agents are exploited or manipulated

Sin marcos de confianza digital sólidos -que incluyan la verificación de la identidad, la supervisión del comportamiento y la orquestación segura-, los sistemas de IA agéntica podrían convertirse en un nuevo vector de ciberataques, violaciones de datos y fallos operativos.

El auge de la IA agéntica es sinónimo de innovación y perturbación. Cambiará el funcionamiento de las empresas e introducirá nuevos riesgos de seguridad y cumplimiento. Los inversores y las empresas de capital riesgo están presionando a las empresas para que adopten la IA agéntica con el objetivo de obtener beneficios financieros tangibles, ya sea en eficiencia operativa o en ahorro de costes. 

For example, Gartner predicts that by 2029, the use of AI agents could generate up to 30% reduction in operational costs for common customer service issues.  These estimates are significant! According to Gartner’s 2025 Cybersecurity Innovations Survey, over half of respondents said they’ve already deployed custom AI agents (53%). Keyfactor’s approach to securing these AI agents at scale offers both a strategic edge and a path to risk mitigation.

MCP (Model Context Protocol) is likely becoming the universal standard interface between AI, data & applications. It’s used to decouple models from the software that they interact with, to coordinate across different systems, and to adapt quickly.  But MCP is still early in its maturity. Many client implementations lack the robust authentication and authorization that enterprise-grade security requires — capabilities like role-based access control (RBAC) and automated credential rotation.

La mayoría de las implementaciones actuales de MCP aprovechan OAuth, pero a menudo con claves fijas o secretos compartidos en lugar de credenciales más sólidas y duraderas. Creemos que los clientes MCP están en camino de soportar la autenticación basada en certificados. 

Seguridad de la inteligencia artificial: por qué PKI es una pieza clave de la base

Sin una identidad, autenticación e integridad de datos sólidas, la IA Agentic puede introducir vulnerabilidades en lugar de aportar valor. Asegurar los agentes de IA requiere cuatro cosas clave:

• Identidades fuertes
• Controles de acceso detallados
• Alto grado de auditabilidad (es decir, para que los SIEM puedan buscar anomalías)
• Un método para eliminar el acceso si un agente de IA no está actuando como se esperaba

According to Cisco, identity-based attacks were the most common attack vector in 2024, accounting for 60% of all incident response cases — a stark warning as we shift toward increasingly autonomous and interconnected AI agents.

Para las organizaciones que exploran cómo asegurar el acceso a la IA Agentic, PKI y la autenticación basada en certificados proporcionan una solución sólida:

• Mutual TLS (mTLS) allows agents to authenticate each other before exchanging data
• Ephemeral certificates give short-lived agents time-bound trust
• Hardware-bound keys protect agents embedded in physical systems like drones or vehicles

En última instancia, la forma de asegurar el acceso a la IA Agentic implica generar confianza en la capa de identidad con estándares de seguridad probados. La PKI se está convirtiendo en una de las áreas más críticas para las empresas. Los certificados emitidos desde una PKI ofrecen respuestas probadas, que ya se utilizan ampliamente en la seguridad empresarial para identidades de máquinas, IoT, autenticación de cargas de trabajo y marcos de confianza cero. 

A medida que la capa de identidad se convierte en un elemento central para garantizar la seguridad de la IA agéntica, también se convierte en una cuestión de confianza, no sólo entre sistemas, sino entre las personas y las tecnologías de las que dependen. 

Inteligencia Artificial Agéntica: las preguntas que hay que hacerse

Las empresas deben alinear los marcos de seguridad, las políticas de gobernanza y las prioridades empresariales para garantizar que la IA Agentic pueda escalar de forma responsable y segura. 

Las tres áreas de interés que se exponen a continuación describen cómo iniciar esa armonización, basándose tanto en las tendencias actuales como en los retos de la aplicación en el mundo real.

Área prioritaria nº 1: La IA agenética se acerca rápidamente y requerirá escala

La IA agenética requiere autonomía a escala para hacer realidad las ventajas de la eficiencia y el ahorro de costes. 

Estos agentes ya se están desplegando en entornos de alto riesgo, y las empresas deben preguntarse:

• ¿Cómo medimos el retorno de la inversión de la IA agéntica y en función de qué indicadores clave de rendimiento?
• ¿Existe un responsable empresarial claro de los riesgos, la gobernanza y el rendimiento de la IA?
• ¿Podemos informar con confianza a nuestro consejo sobre nuestra preparación y hoja de ruta para la IA?

Según Chris Hickman, CSO de Keyfactor , muchas organizaciones se están apresurando a experimentar, pero no han abordado las demandas de infraestructura de la adopción generalizada de la IA agéntica. Es fundamental comprender el coste inicial y el mantenimiento a largo plazo de la solución completa a escala antes de desplegar nada en producción.

"La realidad es que una vez que empiezas a desplegar miles de agentes a través de APIs y entornos en la nube, la gestión de la confianza, la identidad y el ciclo de vida se vuelve exponencialmente más compleja."

Área prioritaria nº 2: La velocidad de la innovación en la inteligencia artificial requiere principios de seguridad probados

Con la rápida innovación, existe un riesgo real de que la seguridad se convierta en algo secundario. Sin embargo, los agentes autónomos pueden causar daños reales si se ven comprometidos, mucho más rápido y con menos transparencia que las cargas de trabajo tradicionales.

Estas son algunas de las preguntas importantes que hay que plantearse:

• ¿Incluye nuestra estrategia corporativa holística para proteger a los agentes de IA identidad criptográfica, visibilidad y supervisión, y gobernanza?
• ¿Cuál es nuestro plan para ejecutar pilotos con éxito sin comprometer la seguridad?
• ¿Tenemos un libro de jugadas para los principales incidentes o fallos de la IA?

Según Hickman, las organizaciones deben adoptar controles de seguridad que no frenen la innovación, pero que garanticen la verificabilidad, la confianza y la resistencia. 

"PKI, TLS mutuo y la autenticación basada en certificados son métodos probados que funcionan para proteger identidades no humanas a gran escala. Y son exactamente lo que necesita la IA Agentic".

Añade que confiar en secretos compartidos o tokens estáticos -como hacen algunas implantaciones de MCP- es una bomba de relojería. Una base adecuada no solo es más segura, sino que también está preparada para el futuro.

Área prioritaria nº 3: Las políticas y prácticas deben seguir el ritmo, o la IA automática se convertirá en un lastre.

La IA robótica plantea cuestiones jurídicas, éticas y de reputación. A medida que los sistemas autónomos se integran en las operaciones, la gobernanza deja de ser opcional.

Los responsables de ética y cumplimiento deberían preguntarse:

• ¿Disponemos de un comité de ética de la IA u órgano de gobernanza interfuncional?
• Sabemos cómo gestionar las infracciones de las políticas de RRHH y TI, pero ¿cómo gestionar las infracciones de los agentes de IA en las que software ha asumido lo que antes eran funciones humanas?
• ¿Podemos demostrar nuestra postura de responsabilidad en materia de IA a los reguladores y al público?

Según Hickman, aquí es donde muchas organizaciones se quedan cortas. "No dejarías que un empleado humano operara sin RRHH, revisiones de rendimiento o restricciones políticas, y sin embargo muchos agentes de IA están ahí fuera actuando sin supervisión ni interruptor de apagado".

Insiste en la necesidad de sistemas auditables y de un fideicomiso revocable. 

"Si no tienes controles criptográficos y políticas para eliminar el acceso de un agente en el momento en que algo parezca raro, ya has perdido la batalla de la gobernanza".

Reflexiones finales: Alinear política, seguridad y confianza

La IA agéntica está aquí y ya está cambiando el funcionamiento de las empresas. Pero como cualquier nueva capacidad potente, conlleva riesgos. Aplicando marcos de seguridad probados, invirtiendo en infraestructuras de identidad escalables y alineando las políticas con la autonomía, las organizaciones pueden convertir la IA agéntica en una ventaja estratégica.

Now is the time for leaders across security, IT, risk, and ethics to align on what trust means in an autonomous future. In Part 3, we’ll break down how to establish a secure, scalable trust architecture purpose-built for Agentic AI.

¿Quiere saber en qué punto se encuentra su infraestructura actual o cómo puede empezar a generar confianza en la capa de identidad para la IA Agentic? Nuestros expertos en seguridad están preparados para ayudarle a definir su hoja de ruta.