Agentische KI ist nicht mehr experimentell.
KI-Systeme beginnen, eigenständig zu agieren – sie initiieren Arbeitsabläufe, greifen auf Systeme zu, ändern Daten und interagieren zwischen verschiedenen Umgebungen, ohne dass ein Mensch sie dazu auffordert. Da Unternehmen diese autonomen Agenten in ihre Geschäftsabläufe integrieren, stellt sich eine neue Sicherheitsfrage:
Wie schafft man Identität, Verantwortlichkeit und Vertrauen für Systeme, die eigenständig handeln?
Dies ist die Grundlage für agentenbasierte KI-Sicherheit – und sie wird schnell zu einem zentralen Faktor für digitales Vertrauen.
Warum agentische KI das Sicherheitsmodell verändert
Die traditionelle Automatisierung folgte Skripten. Die agentische KI trifft Entscheidungen.
Diese Systeme können kontinuierlich arbeiten, komplexe Aufgaben ausführen und Maßnahmen schneller skalieren als jedes menschliche Team. Diese Effizienz ist überzeugend. Aber Autonomie vergrößert auch die Angriffsfläche.
In einer aktuellen Keyfactor gaben 69 % der Cybersicherheitsexperten an, dass KI-basierte Schwachstellen – darunter Schwächen in KI-Agenten und autonomen Systemen – im kommenden Jahr eine größere Gefahr für die Identität und die Sicherheitssysteme ihrer Organisation darstellen werden als der Missbrauch von KI durch Menschen.
Sicherheitsteams verteidigen sich nicht mehr nur gegen Benutzer und Malware. Sie verteidigen sich gegen KI-gesteuerte Angreifer – und kontrollieren gleichzeitig KI-gesteuerte Akteure innerhalb ihrer eigenen Umgebungen.
Dieser doppelte Druck verändert die Sicherheitsstrategie von Unternehmen.
KI-Agenten als vertrauenswürdige Instanzen
Unternehmen verwalten bereits das Vertrauen zwischen Mitarbeitern, Auftragnehmern, Partnern, Geräten und Arbeitslasten. Jede Identität verfügt über definierte Berechtigungen, Kontrollfunktionen und Verantwortlichkeiten.
KI-Agenten müssen nun genauso behandelt werden.
Wie Dinesh Nagarajan von IBM Consulting kürzlich in einem Gespräch zum Thema digitales Vertrauen erklärte, müssen Unternehmen damit beginnen, KI-Agenten als vertrauenswürdige Einheiten innerhalb ihrer Umgebungen zu betrachten. In den nächsten drei bis fünf Jahren werden wir erleben, wie Agenten andere Agenten erstellen, mit unterschiedlichem Autonomiegrad arbeiten und direkt mit kritischen Systemen interagieren.
Ohne strenge Identitätskontrollen und Governance können diese Agenten selbst zum Ziel werden – sie können gefälscht, manipuliert oder mit Zugriffsrechten ausgestattet werden, die über ihren vorgesehenen Aufgabenbereich hinausgehen. Wenn dies geschieht, sind die Auswirkungen nicht isoliert. Sie wirken sich kaskadenartig aus.
Die Governance muss sich ebenso schnell weiterentwickeln wie die Autonomie.
Die meisten bestehenden Sicherheitsprogramme wurden nicht für autonome Systeme entwickelt, die mit Maschinengeschwindigkeit arbeiten. Herkömmliche Abwehrmaßnahmen bieten zwar eine Grundausstattung, sind jedoch nicht auf die Komplexität KI-gesteuerter Arbeitsabläufe ausgerichtet, die Infrastrukturänderungen auslösen oder automatisch auf sensible Daten zugreifen können.
Um sich anzupassen, modernisieren Unternehmen ihre Identitätsrahmenwerke, stärken ihre kryptografischen Grundlagen und überdenken ihre Governance-Modelle. Die menschliche Aufsicht bleibt unverzichtbar, insbesondere für die Rückverfolgbarkeit und Sicherheit. Die Governance muss jedoch auch integrierte Identitäten, Zugriff mit minimalen Berechtigungen, Beobachtbarkeit und automatisierte Kontrollen umfassen, die mit KI skalierbar sind.
Wenn Identität, Zugriffskontrolle und Sicherheit grundlegend und nicht reaktiv sind, wird die Einhaltung von Rahmenwerken wie HIPAA, DSGVO und PCI DSS wesentlich einfacher.
Die Herausforderung besteht nicht darin, ob Unternehmen agentenbasierte KI einsetzen werden. Die Frage ist vielmehr, ob sich das digitale Vertrauen schnell genug entwickeln wird, um dies zu unterstützen.
Möchten Sie die vollständige Unterhaltung?
Dieser Beitrag kratzt nur an der Oberfläche.
In „Digital Trust Digest: The AI Identity Edition“ teilt Dinesh Nagarajan von IBM Consulting eine praktische, fundierte Perspektive zu folgenden Themen:
-
Wie KI-Agenten die Sicherheitsstrategie von Unternehmen neu gestalten
-
Warum eine schwache KI-Governance Ihre gesamte Sicherheitslage untergraben kann
-
Wie eine erfolgreiche Modernisierung der Identitäts- und Kryptografie-Lösungen aussieht
-
Wie mancommand -Modellecommand entwickelt
-
Grundlegende Schritte zur Sicherung von KI-Agenten in regulierten Umgebungen
Wenn agentenbasierte KI auf Ihrer Roadmap steht – oder bereits in Ihrer Umgebung vorhanden ist –, sollten Sie dieses Gespräch nicht verpassen.
👉 Lesen Sie das vollständige Interview auf Seite 22 im Digital Trust Digest: AI Identity Edition.
