Absicherung von KI-Agenten: Warum Unternehmen sich darum kümmern sollten

In part one of this blog series – The Next Security Frontier: Securing the Future of Agentic AI with Digital Trust – we introduced the rise of Agentic AI and the foundational role that digital trust must play as these intelligent agents gain operational independence.

Im zweiten Teil gehen wir näher darauf ein, warum die Absicherung von Agenten-KI für Unternehmen heute so wichtig ist - und was auf dem Spiel steht, wenn es uns nicht gelingt, diese transformative neue Klasse von KI zu schützen.

Was ist Agentic AI - und warum der Hype?

We’re entering a new era of artificial intelligence: Agentic AI. Unlike traditional AI systems that simply respond to inputs, Agentic AI refers to autonomous agents that can:

• Entscheidungen in Echtzeit treffen
• Selbstständig Aktionen initiieren
• Nahtloser Betrieb über APIs, Cloud-Dienste und Unternehmensdaten-Ökosysteme

This evolution takes AI from automation to true autonomy – and it unlocks unprecedented efficiency and scalability across industries like supply chain management, customer service, finance, and cybersecurity.

Die Chance - und das Risiko

While Agentic AI presents massive opportunities, it also introduces new security challenges:

• Blurring identity boundaries between human users, machines, and digital agents
• Expanding attack surfaces across interconnected systems and APIs
• Compromising data integrity and trust if autonomous agents are exploited or manipulated

Ohne robuste digitale Vertrauensrahmen, die Identitätsüberprüfung, Verhaltensüberwachung und sichere Orchestrierung umfassen, könnten agentenbasierte KI-Systeme zu einem neuen Vektor für Cyberangriffe, Datenschutzverletzungen und Betriebsausfälle werden.

Der Aufstieg der agentenbasierten KI signalisiert sowohl Innovation als auch Störung. Sie wird die Art und Weise, wie Unternehmen funktionieren, verändern - und neue Sicherheits- und Compliance-Risiken mit sich bringen. Investoren und PE-Firmen drängen Unternehmen zur Einführung von Agentic AI mit dem Ziel, greifbare finanzielle Vorteile zu erzielen, sei es in Form von betrieblicher Effizienz oder Kosteneinsparungen. 

For example, Gartner predicts that by 2029, the use of AI agents could generate up to 30% reduction in operational costs for common customer service issues.  These estimates are significant! According to Gartner’s 2025 Cybersecurity Innovations Survey, over half of respondents said they’ve already deployed custom AI agents (53%). Keyfactor’s approach to securing these AI agents at scale offers both a strategic edge and a path to risk mitigation.

MCP (Model Context Protocol) is likely becoming the universal standard interface between AI, data & applications. It’s used to decouple models from the software that they interact with, to coordinate across different systems, and to adapt quickly.  But MCP is still early in its maturity. Many client implementations lack the robust authentication and authorization that enterprise-grade security requires — capabilities like role-based access control (RBAC) and automated credential rotation.

Die meisten aktuellen MCP-Implementierungen nutzen OAuth, aber oft mit festen Schlüsseln oder gemeinsam genutzten Geheimnissen anstelle von stärkeren, dauerhafteren Anmeldedaten. Wir glauben, dass MCP-Clients auf dem Weg sind, eine zertifikatsbasierte Authentifizierung zu unterstützen. 

Sicherung der agentenbasierten KI: Warum PKI ein wichtiger Teil der Grundlage ist

Ohne starke Identität, Authentifizierung und Datenintegrität kann KI-Agenten Schwachstellen verursachen, anstatt einen Mehrwert zu bieten. Die Sicherung von KI-Agenten erfordert vier wichtige Dinge:

• Starke Identitäten
• Fein abgestufte Zugriffskontrollen
• Hoher Grad an Überprüfbarkeit (d. h., SIEMs können nach Anomalien suchen)
• Ein Verfahren zum Entfernen des Zugangs, wenn ein KI-Agent sich nicht wie erwartet verhält

According to Cisco, identity-based attacks were the most common attack vector in 2024, accounting for 60% of all incident response cases — a stark warning as we shift toward increasingly autonomous and interconnected AI agents.

Für Unternehmen, die sich mit der Frage beschäftigen, wie sie den Zugriff auf Agentic AI sichern können, bieten PKI und zertifikatsbasierte Authentifizierung eine robuste Lösung:

• Mutual TLS (mTLS) allows agents to authenticate each other before exchanging data
• Ephemeral certificates give short-lived agents time-bound trust
• Hardware-bound keys protect agents embedded in physical systems like drones or vehicles

Letztendlich geht es bei der Sicherung des KI-Zugangs für Agenten darum, auf der Identitätsebene mit bewährten Sicherheitsstandards Vertrauen aufzubauen. Die PKI wird zu einem der wichtigsten Bereiche für Unternehmen. Zertifikate, die von einer PKI ausgestellt werden, bieten bewährte Antworten - sie werden bereits in großem Umfang in der Unternehmenssicherheit für Maschinenidentitäten, IoT, Workload-Authentifizierung und Zero Trust Frameworks verwendet. 

Da die Identitätsebene für die Sicherung der agentenbasierten KI von zentraler Bedeutung ist, geht es auch um Vertrauen - nicht nur zwischen Systemen, sondern auch zwischen Menschen und den Technologien, von denen sie abhängig sind. 

Agentische KI: Diese Fragen müssen Sie sich stellen

Unternehmen müssen Sicherheitsrahmen, Governance-Richtlinien und Geschäftsprioritäten aufeinander abstimmen, um zu gewährleisten, dass Agentic AI verantwortungsvoll und sicher skalieren kann. 

Die folgenden drei Schwerpunktbereiche skizzieren, wie diese Angleichung in Angriff genommen werden kann, wobei sowohl aktuelle Trends als auch Herausforderungen aus der Praxis berücksichtigt werden.

Schwerpunktbereich Nr. 1: Agenten-KI ist im Kommen und muss skaliert werden

Agentische KI erfordert Autonomie in großem Umfang, um die Vorteile von Effizienz und Kosteneinsparungen zu realisieren. 

Diese Agenten werden bereits in Umgebungen eingesetzt, in denen viel auf dem Spiel steht, und die Unternehmen müssen sich die Frage stellen:

• Wie messen wir den ROI von agentenbasierter KI - und anhand welcher KPIs?
• Gibt es einen klaren Geschäftsverantwortlichen für KI-Risiken, Governance und Leistung?
• Können wir unseren Vorstand vertrauensvoll über unsere KI-Bereitschaft und unsere Roadmap informieren?

Laut Chris Hickman, CSO Keyfactor , experimentieren viele Unternehmen bereits fleißig, haben sich aber noch nicht mit den Anforderungen an die Infrastruktur auseinandergesetzt, die mit der Einführung von Agentic AI verbunden sind. Es ist von entscheidender Bedeutung, die anfänglichen Kosten und die langfristige Wartung der gesamten Lösung im großen Maßstab zu verstehen, bevor man etwas in der Produktion einsetzt.

"Die Realität ist, dass die Verwaltung von Vertrauen, Identität und Lebenszyklus exponentiell komplexer wird, sobald man anfängt, Tausende von Agenten über APIs und Cloud-Umgebungen hinweg einzusetzen."

Schwerpunktbereich Nr. 2: Das Innovationstempo bei der agentenbasierten KI erfordert bewährte Sicherheitsprinzipien

Angesichts der rasanten Innovation besteht die Gefahr, dass die Sicherheit in den Hintergrund gedrängt wird. Und doch können autonome Agenten im Falle einer Kompromittierung echten Schaden anrichten, und zwar viel schneller und mit weniger Transparenz als bei herkömmlichen Workloads.

Hier sind einige der wichtigsten Fragen, die Sie sich stellen sollten:

• Beinhaltet unsere ganzheitliche Unternehmensstrategie zur Sicherung von KI-Agenten kryptografische Identität, Sichtbarkeit und Überwachung sowie Governance?
• Wie sieht unser Plan für die Durchführung erfolgreicher Pilotprojekte aus, ohne die Sicherheit zu gefährden?
• Haben wir einen Leitfaden für größere KI-Vorfälle oder Fehlerszenarien?

Laut Hickman müssen Unternehmen Sicherheitskontrollen einführen, die die Innovation nicht bremsen, aber dennoch Überprüfbarkeit, Vertrauen und Widerstandsfähigkeit gewährleisten. 

"PKI, gegenseitiges TLS und zertifikatsbasierte Authentifizierung sind bewährte Methoden, die für die Sicherung nicht-menschlicher Identitäten in großem Maßstab funktionieren. Und sie sind genau das, was Agentic AI braucht."

Er fügt hinzu, dass es eine tickende Zeitbombe ist, sich auf gemeinsam genutzte Geheimnisse oder statische Token zu verlassen, wie es einige MCP-Implementierungen tun. Die richtige Grundlage ist nicht nur sicherer, sondern auch zukunftssicherer.

Schwerpunktbereich Nr. 3: Richtlinien und Praktiken müssen Schritt halten - oder KI wird zu einer Belastung

Agentische KI wirft rechtliche, ethische und Reputationsfragen auf. Je stärker autonome Systeme in den Betrieb eingebettet werden, desto mehr wird Governance zur Option.

Führungskräfte im Bereich Ethik und Compliance sollten sich diese Frage stellen:

• Haben wir einen funktionsübergreifenden KI-Ethikausschuss oder ein Governance-Gremium?
• Wir wissen, wie wir mit Verstößen gegen Personal- und IT-Richtlinien umgehen, aber wie gehen wir mit Verstößen gegen KI-Agenten um, bei denen software Aufgaben übernommen hat, die zuvor von Menschen wahrgenommen wurden?
• Können wir den Aufsichtsbehörden und der Öffentlichkeit unsere Haltung zur KI-Verantwortung demonstrieren?

Laut Hickman ist dies der Punkt, an dem viele Unternehmen versagen. "Sie würden einen menschlichen Mitarbeiter nicht ohne Personalverantwortung, Leistungsbeurteilung oder Richtlinienvorgaben arbeiten lassen, doch viele KI-Agenten agieren ohne Aufsicht oder Kill Switch.

Er unterstreicht die Notwendigkeit von überprüfbaren Systemen und widerruflichem Vertrauen. 

"Wenn Sie nicht über kryptografische Kontrollen und Richtlinien verfügen, um den Zugriff eines Agenten in dem Moment zu sperren, in dem etwas nicht in Ordnung zu sein scheint, haben Sie den Kampf um die Governance bereits verloren.

Abschließende Überlegungen: Politik, Sicherheit und Vertrauen in Einklang bringen

Agentische KI ist da, und sie verändert bereits die Arbeitsweise von Unternehmen. Aber wie jede leistungsstarke neue Fähigkeit birgt sie auch Risiken. Durch die Anwendung bewährter Sicherheits-Frameworks, die Investition in eine skalierbare Identitätsinfrastruktur und die Abstimmung von Richtlinien und Autonomie können Unternehmen Agentic AI in einen strategischen Vorteil verwandeln.

Now is the time for leaders across security, IT, risk, and ethics to align on what trust means in an autonomous future. In Part 3, we’ll break down how to establish a secure, scalable trust architecture purpose-built for Agentic AI.

Möchten Sie wissen, wo Ihre derzeitige Infrastruktur steht - oder wie Sie mit dem Aufbau von Vertrauen auf der Identitätsebene für Agentic AI beginnen können? Unsere Sicherheitsexperten helfen Ihnen gerne bei der Festlegung Ihres Fahrplans.