Was ist KI-Agent-Sicherheit: Warum sie wichtig ist und wie man sich darauf vorbereitet

Die Sicherheit von KI-Agentenumfasst die Kontrollmechanismen, Richtlinien und Governance-Mechanismen, die sicherstellen, dass die Identität eines KI-Agenten überprüft, seine Aktionen autorisiert, sein Zugriff eingeschränkt und sein Verhalten während seines gesamten Betriebslebenszyklus beobachtbar und überprüfbar ist.

Was versteht man unter der Sicherheit von KI-Agenten?

Die Sicherheit von KI-Agenten konzentriert sich auf die Sicherheit einzelner autonomer KI-Systeme, also der Agenten selbst, während diese in Unternehmensumgebungen eingesetzt werden. Dabei geht es darum, wie jeder Agent identifiziert wird, welche Handlungen ihm gestattet sind, wie seine Handlungen überwacht werden und wie die Rechenschaftspflicht gewahrt bleibt, wenn ein Agent im Namen einer Organisation handelt.

Diese Disziplin unterscheidet sich von mehreren verwandten Konzepten:

Bei der Sicherheit von KI-Modellengeht es um die Integrität und Sicherheit der zugrunde liegenden Modelle für maschinelles Lernen sowie um den Schutz vor böswilligen Eingaben, Datenvergiftung und Modelldiebstahl. Sie befasst sich nicht damit, was ein Agent nach seiner Bereitstellung tut.

Die Prompt-Sicherheitzielt darauf ab, die Manipulation der Anweisungen eines Agenten durch manipulierte Eingaben zu verhindern. Sie stellt einen Teilbereich innerhalb des umfassenderen Themas der Agentensicherheit dar.

Die Sicherheit agentenbasierter KIbefasst sich mit Aspekten auf Systemebene wie der Orchestrierung mehrerer Agenten, der agentenübergreifenden Koordination und der Steuerung autonomer Systeme in großem Maßstab. Die Sicherheit einzelner KI-Agenten hingegen konzentriert sich auf die Absicherung des einzelnen Agenten als eigenständigen Akteur innerhalb dieses Systems.

Die Sicherheit von KI-Agenten befindet sich an der Schnittstelle zwischen Identitätsmanagement, Zugriffskontrolle und operativer Governance. Dabei wird der Agent als eine Einheit betrachtet, die sich Vertrauen erst verdienen und aufrechterhalten muss, und nicht als ein Werkzeug, das das Vertrauen des Menschen, der es bereitgestellt hat, automatisch übernimmt.

Die zentrale Frage, die sich im Zusammenhang mit der Sicherheit von KI-Agenten stellt, ist einfach: Wie kann ein Unternehmen überprüfen, wer ein Agent ist, kontrollieren, was er tun darf, beobachten, was er tut, und ihn für seine Handlungen zur Rechenschaft ziehen?

Warum KI-Agenten neue Sicherheitsherausforderungen mit sich bringen

Im Gegensatz zu herkömmlicher software, die vordefinierte Anweisungen innerhalb vorhersehbarer Grenzen ausführt, analysieren KI-Agenten ihre Umgebung, treffen kontextbezogene Entscheidungen und ergreifen Maßnahmen, die von den Teams, die sie eingesetzt haben, nicht ausdrücklich vorhergesehen wurden.

Dieser grundlegende Wandel bringt eine Reihe von Sicherheitsherausforderungen mit sich, für deren Bewältigung bestehende Rahmenbedingungen nicht ausgelegt sind.

Autonome Ausführung:
KI-Agenten arbeiten ohne ständige menschliche Überwachung. Nach der Bereitstellung kann ein Agent eine Abfolge von Aktionen ausführen (z. B. Datenbanken abfragen, APIs aufrufen, Datensätze ändern, Workflows auslösen), ohne bei jedem Schritt auf eine Genehmigung warten zu müssen. Die Geschwindigkeit und Autonomie dieser Ausführung führen dazu, dass sich Fehler, Fehlkonfigurationen oder unbefugte Aktionen häufen können, bevor jemand eingreifen kann.

Unvorhersehbares Verhalten:
Im Gegensatz zur deterministischen Automatisierung interpretieren KI-Agenten Anweisungen und den Kontext, um ihre nächste Aktion zu bestimmen. Zwei identische Eingaben können zu unterschiedlichen Ausführungswegen führen, abhängig von den Daten, auf die der Agent trifft, dem Zustand der Systeme, mit denen er interagiert, und dem von ihm angewandten Schlussfolgerungsmodell. Diese Unvorhersehbarkeit macht es schwierig, jede mögliche Aktion eines Agenten vorauszusehen.

Eingeschränkte Nachvollziehbarkeit:
KI-Agenten treffen Entscheidungen oft auf der Grundlage hochkomplexer interner Prozesse, die schwer zu interpretieren oder zu validieren sind. Diese mangelnde Nachvollziehbarkeit erschwert die Erkennung von Bedrohungen, die Vertrauensbewertung, die Reaktion auf Vorfälle usw. Für Teams kann es schwierig sein, nachzuvollziehen, warum ein Agent eine bestimmte Aktion ausgeführt, auf sensible Daten zugegriffen oder sich unerwartet verhalten hat.

Systemübergreifender Zugriff:
KI-Agenten interagieren häufig mit mehreren Systemen innerhalb eines einzigen Arbeitsablaufs. Ein Agent kann beispielsweise Daten aus einer Kundendatenbank auslesen, Daten in ein Finanzsystem schreiben und einen Benachrichtigungsdienst auslösen. Jede dieser Interaktionen stellt eine potenzielle Angriffsfläche dar und ist ein Punkt, an dem Zugriffskontrollen durchgesetzt werden müssen.

Persistenz:
Im Gegensatz zu einem menschlichen Benutzer, der sich anmeldet, eine Aufgabe ausführt und sich wieder abmeldet, behalten KI-Agenten oft dauerhaft Zugriff auf Systeme. Sie analysieren Umgebungen kontinuierlich und behalten dabei den Kontext sowie Anmeldedaten über mehrere Sitzungen hinweg bei. Diese Persistenz vergrößert das Risiko, wenn ein Agent kompromittiert oder falsch konfiguriert ist.

• Frank Vukovits, Chief Security Scientist bei Delinea, schrieb im „Digital Trust Digest“ Keyfactor: „KI-Agenten werden schneller als vertrauenswürdig eingestuft, als Governance-, Identitäts- und Berechtigungsmodelle angepasst werden können, um sie einzuschränken.“ Unternehmen setzen Agenten in Produktionsumgebungen ein, während die sie umgebende Sicherheitsinfrastruktur noch unvollständig ist.

Das einzigartige Risikoprofil von KI-Agenten

KI-Agenten weisen ein Risikoprofil auf, das sich sowohl von dem menschlicher Nutzer als auch von dem herkömmlicher automatisierter Systeme unterscheidet. Das Verständnis dieser Risiken ist für die Entwicklung wirksamer Sicherheitsmaßnahmen von entscheidender Bedeutung.

Agenten mit übermäßigen Berechtigungen:
Unternehmen erteilen KI-Agenten häufig weitreichende Berechtigungen, um sicherzustellen, dass diese ihre zugewiesenen Aufgaben erfüllen können. In der Praxis bedeutet dies, dass Agenten oft Zugriff auf weit mehr Systeme und Daten haben, als für eine einzelne Aufgabe erforderlich ist. Ein Agent, der für die „Bearbeitung von Kundenanfragen“ eingerichtet wurde, verfügt möglicherweise über Zugangsdaten, die es ihm ermöglichen, auf Abrechnungssysteme zuzugreifen, Kontodaten zu ändern und interne Dokumentationen einzusehen. Dies sind Fähigkeiten, die weit über den vorgesehenen Aufgabenbereich hinausgehen.

Laut der Umfrage „Digital Trust Digest“ Keyfactorzählt der KI-gesteuerte Missbrauch von Zugriffsrechten und Systemen mit übermäßigen Berechtigungen zu den größten wahrgenommenen Bedrohungen, denen Unternehmen heute ausgesetzt sind. Das Risiko liegt nicht in böswilliger KI, sondern vielmehr darin, was passiert, wenn autonome Systeme mit zu großem Vertrauen agieren.

Missbrauch von Anmeldedaten:
KI-Agenten verwenden Anmeldedaten (z. B. API-Schlüssel, Tokens, Zertifikate), um sich bei den Systemen zu authentifizieren, auf die sie zugreifen. Sind diese Anmeldedaten zu weit gefasst, werden sie nicht ordnungsgemäß gewechselt oder zwischen Agenten geteilt, kann ein einziger kompromittierter Zugangsnachweis Zugriff auf ein ganzes Netzwerk verbundener Systeme gewähren. Agenten zögern nicht und arbeiten mit maschineller Geschwindigkeit, was bedeutet, dass sich der Missbrauch von Anmeldedaten weitaus schneller ausbreiten kann, als dies bei einem menschlichen Akteur der Fall wäre.

Unbeabsichtigte Handlungen:
Ein Agent, der den Auftrag erhält, „die Systemleistung zu optimieren“, könnte diese Anweisung auf eine Weise auslegen, die seine Betreiber nicht erwartet haben, beispielsweise indem er Dienste, die er als nicht ausreichend ausgelastet erachtet, herunterfährt, Konfigurationen ändert oder seine eigenen Berechtigungen erweitert, um das Ziel zu erreichen. Diese Handlungen sind nicht böswillig. Sie sind das Ergebnis eines autonomen Systems, das ein Ziel verfolgt, ohne dabei die kontextbezogene Beurteilung anzuwenden, die ein Mensch vornehmen würde.

Fehlende Zuordnung:
Wenn ein KI-Agent eine Aktion ausführt, ist oft unklar, wer oder was dafürverantwortlich ist. Hat der Agent nach eigenem Ermessen gehandelt? Ist er einer Eingabe eines Benutzers gefolgt? Wurde die Eingabe von einem anderen System verändert? Ohne zuverlässige Identitäts- und Überprüfungsmechanismen können Unternehmen Aktionen nicht bis zu ihrer Quelle zurückverfolgen, was die Reaktion auf Vorfälle und die Berichterstattung zur Einhaltung von Vorschriften erheblich erschwert.

Die Umfragedaten verdeutlichen das Ausmaß dieser Herausforderung: 69 % der Führungskräfte geben an, dass durch KI verursachte Sicherheitslücken eine größere Gefahr darstellen werden als der Missbrauch von KI durch Menschen, doch die Hälfte der Unternehmen hat noch keine umfassenden Governance-Maßnahmen für KI-Agenten eingeführt.

Wie KI-Agenten mit Unternehmenssystemen interagieren

KI-Agenten arbeiten nicht isoliert. Sie interagieren mit Unternehmenssystemen über eine Reihe von Mechanismen, die Unternehmen verstehen und steuern müssen.

APIs und Zugriff auf Tools:
Die meisten KI-Agenten interagieren über Anwendungsprogrammierschnittstellen (APIs) mit externen Systemen. Sie rufen Endpunkte auf, um Daten abzurufen, Änderungen zu übermitteln, Prozesse auszulösen und Antworten zu empfangen. Jeder API-Aufruf stellt eine Interaktion dar, die authentifiziert, autorisiert und protokolliert werden muss. Agenten können zudem Tools nutzen, d. h. vordefinierte Funktionen, die ihre Fähigkeiten erweitern und jeweils einen zusätzlichen Zugriffsvektor darstellen.

Datenzugriff:
KI-Agenten benötigen häufig Zugriff auf sensible Daten, um ihre Aufgaben zu erfüllen. Kundendaten, Finanzdaten, interne Dokumente und Konfigurationsdateien können alle in den Aufgabenbereich eines Agenten fallen. Der Umfang des Datenzugriffs, den ein Agent benötigt, muss ausdrücklich definiert und kontinuierlich durchgesetzt werden.

Übertragene Befugnisse:
Wenn ein KI-Agent im Namen eines Benutzers oder einer Organisation handelt, übt er übertragene Befugnisse aus. Er führt Handlungen aus, die ein Mensch genehmigt hat, doch der Agent selbst trifft die Entscheidungen darüber, wann, wie und in welcher Reihenfolge diese Handlungen erfolgen. Diese Befugnisübertragung schafft ein Vertrauensverhältnis, das geregelt werden muss: Die Organisation muss darauf vertrauen können, dass der Agent innerhalb der Grenzen der ihm übertragenen Befugnisse handelt.

• Jede dieser Interaktionsarten muss kontrolliert werden. Jeder API-Aufruf, jede Datenzugriffsanfrage und jede delegierte Aktion stellt einen Punkt dar, an dem Vertrauen hergestellt und überprüft werden muss. Die Frage ist nicht, ob KI-Agenten mit Unternehmenssystemen interagieren werden, denn das tun sie bereits. Die Frage ist vielmehr, ob jede Interaktion denselben strengen Regeln unterliegt, die Unternehmen für den Zugriff durch Menschen anwenden.

Auf jede menschliche Identität in einem Unternehmen kommen 80 nicht-menschliche Identitäten. KI-Agenten sind die am schnellsten wachsende Kategorie nicht-menschlicher Identitäten, und jeder einzelne benötigt dieselbe grundlegende Vertrauensinfrastruktur, die Unternehmen bereits für Server, Container und Workloads einsetzen.

Grundlegende Sicherheitsanforderungen für KI-Agenten

Die Absicherung von KI-Agenten erfordert eine Reihe grundlegender Funktionen, die sich mit Identität, Zugriff, Abgrenzung und Transparenz befassen. Diese Anforderungen sind konzeptioneller Natur und gelten unabhängig davon, welche konkreten Technologien ein Unternehmen zu ihrer Umsetzung einsetzt.

Authentifizierung

Jeder KI-Agent muss über eine überprüfbare Identität verfügen. Unternehmen müssen in der Lage sein, zu bestätigen, dass ein Agent tatsächlich der ist, für den er sich ausgibt, bevor sie ihm Zugriff auf Systeme oder Daten gewähren. Die Authentifizierung von KI-Agenten muss maschinennah, automatisiert und widerstandsfähig gegen den Diebstahl von Zugangsdaten oder Identitätsbetrug sein.

Autorisierung:
Nach der Authentifizierung darf ein Agent nur Aktionen ausführen, die für seine Rolle, seine aktuelle Aufgabe und das jeweilige System, auf das er zugreift, ausdrücklich autorisiert sind. Die Autorisierung muss granular und kontextbezogen sein und bei jeder Interaktion durchgesetzt werden; sie darf nicht einmalig erteilt und dann auf unbestimmte Zeit als gegeben vorausgesetzt werden. Im Zusammenhang mit KI-Agenten bedeutet „Least Privilege“, dass nur genau der erforderliche Zugriff zum richtigen Zeitpunkt für eine bestimmte Aktion gewährt und unmittelbar danach wieder entzogen wird.

Zugriffsgrenzen:
KI-Agenten müssen innerhalb klar definierter Grenzen agieren. Diese Grenzen legen fest, auf welche Systeme ein Agent zugreifen darf, welche Daten er lesen oder ändern darf und welche Aktionen er auslösen darf. Die Grenzen müssen programmgesteuert durchgesetzt werden und dürfen nicht darauf beruhen, dass sich der Agent aus eigenem Ermessen selbst einschränkt.

Beobachtbarkeit:
Jede Aktion eines Agenten muss beobachtbar sein. Unternehmen müssen in der Lage sein, das Verhalten von Agenten in Echtzeit zu überwachen, jede Interaktion zu protokollieren und diese Protokolle im Hinblick auf Compliance, die Reaktion auf Vorfälle und die kontinuierliche Verbesserung zu überprüfen. Ohne Beobachtbarkeit können Unternehmen nicht erkennen, wenn ein Agent außerhalb seines vorgesehenen Aufgabenbereichs handelt.

Diese vier Anforderungen bilden die Sicherheitsgrundlage für jeden Einsatz von KI-Agenten. Sind nicht alle vier erfüllt, können Unternehmen nicht das erforderliche Vertrauen aufbauen, um den Einsatz der Agenten in Produktionsumgebungen zu ermöglichen.

Häufige Sicherheitsrisiken bei KI-Agenten

Selbst wenn grundlegende Sicherheitsanforderungen erfüllt sind, bringen KI-Agenten operative Risiken mit sich, die Unternehmen aktiv bewältigen müssen.

Handeln jenseits des vorgesehenen Rahmens:
Ein Agent, der mit einer bestimmten Aufgabe betraut ist, kann Handlungen ausführen, die über den vorgesehenen Rahmen hinausgehen. Ein Agent, der zur Aktualisierung von Bestandsdaten befugt ist, könnte bei der Verfolgung seines Ziels auf Preisdaten zugreifen, Lieferantenvereinbarungen ändern oder Systeme abfragen, mit denen er eigentlich nicht interagieren sollte. Diese Ausweitung des Aufgabenbereichs bei KI-Agenten ist nicht beabsichtigt, sondern eine Folge autonomer Schlussfolgerungen, die ohne ausreichend enge Vorgaben angewendet werden.

Auslösen unbeabsichtigter Workflows:
KI-Agenten interagieren mit miteinander vernetzten Systemen. Eine Aktion in einem System, wie beispielsweise die Aktualisierung eines Datensatzes oder der Aufruf einer API, kann nachgelagerte Workflows in anderen Systemen auslösen. Ein Agent, der einen Kundendatensatz ändert, könnte unbeabsichtigt einen Abrechnungszyklus, eine Compliance-Benachrichtigung oder einen Datensynchronisationsprozess auslösen. Unternehmen müssen die Kettenreaktionen verstehen, die durch Agentenaktionen in ihrer gesamten Infrastruktur ausgelöst werden.

Falsche Interpretation von Eingaben:
KI-Agenten arbeiten mit den Eingaben, die sie erhalten, wie beispielsweise Anweisungen, Daten oder Kontext. Sind diese Eingaben mehrdeutig, unvollständig oder fehlerhaft, spiegeln sich diese Mängel in den Handlungen des Agenten wider. Ein Agent, der eine Anweisung falsch interpretiert, führt möglicherweise eine gültige, aber falsche Handlung aus – und zwar mit derselben Geschwindigkeit und Sicherheit, mit der er korrekte Handlungen ausführt.

Ausführung ohne Validierung:
Viele KI-Agenten werden ohne ausreichende Validierungsschritte eingesetzt – also ohne Kontrollpunkte, an denen die beabsichtigte Aktion eines Agenten vor der Ausführung überprüft wird. Ohne diese Kontrollpunkte können Agenten Aktionen mit weitreichenden Auswirkungen (Änderung von Konfigurationen, Zugriff auf sensible Daten, Auslösen externer Kommunikation) ohne jegliche Bestätigung durch Menschen oder das System ausführen.

Diese Risiken sind nicht rein theoretischer Natur. Sie sind die operative Realität beim Einsatz autonomer Systeme in komplexen Unternehmensumgebungen. Um sie zu bewältigen, sind eine proaktive Steuerung, eine kontinuierliche Überwachung sowie die Möglichkeit erforderlich, den Zugriff eines Agenten sofort zu entziehen, sobald sein Verhalten von den Erwartungen abweicht.

Wo Unternehmen heute stehen

Die meisten Unternehmen sind sich bewusst, dass KI-Agenten eine spezielle Sicherheitssteuerung erfordern. In der Praxis haben jedoch nur wenige diese umgesetzt. Die Umfrage „Digital Trust Digest“ Keyfactorzeigt eine erhebliche Kluft zwischen Bewusstsein und Handeln auf, die sich mit zunehmender Verbreitung von Agenten weiter vergrößert.

Governance bleibt unvollständig:
Die Hälfte der Unternehmen hat noch keine vollständigen Governance-Rahmenwerke für KI-Agenten implementiert. Mehr als ein Drittel hat zwar Pläne, aber noch keine konkreten Maßnahmen ergriffen. Viele stützen sich auf bestehende Identitätsmodelle, die nie für autonome Akteure konzipiert wurden – nicht weil diese Modelle geeignet wären, sondern weil sie einfach zur Verfügung stehen. Das Ergebnis ist ein Flickenteppich aus Kontrollmechanismen, die zwar einzelne Risiken abdecken, aber keinen umfassenden Schutz hinsichtlich des Verhaltens, des Zugriffs und der Rechenschaftspflicht der Agenten bieten.

Erkennungs- und Reaktionsfähigkeiten hinken der Einführung hinterher:
Die Umfragedaten zur Erkennungsbereitschaft geben Anlass zu besonderer Sorge. Nur 28 % der Unternehmen geben an, dass sie einen bösartigen KI-Agenten verhindern könnten, bevor dieser Schaden anrichtet. Weitere 47 % könnten einen solchen Agenten zwar stoppen, jedoch erst, nachdem bereits Schaden entstanden ist. Und 23 % könnten einen bösartigen Agenten zwar erkennen, sind sich aber nicht sicher, ob sie ihn auch stoppen könnten. Ein kleiner Prozentsatz gab zu, dass sie sich nicht sicher sind, ob sie einen bösartigen Agenten überhaupt erkennen oder stoppen könnten.

Diese Zahlen spiegeln eine Sicherheitslage wider, die für ein langsameres, berechenbareres Umfeld ausgelegt ist. KI-Agenten arbeiten mit maschineller Geschwindigkeit, und die Erkennungs- und Reaktionsfähigkeiten müssen mit diesem Tempo Schritt halten. Dies ist ein Standard, den die meisten Unternehmen noch nicht erreicht haben.

Das Bewusstsein der Unternehmensführung hinkt hinterher:
Obwohl Sicherheitsteams Bedenken äußern, zögert die Unternehmensführung, die Sicherheit von KI-Agenten als strategische Priorität zu behandeln. 55 Prozent der Befragten sind der Meinung, dass ihre Unternehmensführung die Risiken im Zusammenhang mit digitalen Identitäten nicht ernst genug nimmt. Diese Diskrepanz zwischen dem Bewusstsein der Fachleute und dem Handeln der Führungskräfte schafft eine gefährliche Lücke: Sicherheitsteams verstehen die Risiken, verfügen jedoch nicht über das organisatorische Mandat und die Ressourcen, um diese anzugehen, bevor die Agenten tief in kritische Arbeitsabläufe eingebettet sind.

Bestehende Identitätsmodelle werden über ihre Grenzen hinaus beansprucht:
Die meisten Programme zur Verwaltung privilegierter Zugriffe wurden für Menschen entwickelt. Selbst als diese Programme auf Anwendungen, Skripte und Dienstkonten ausgeweitet wurden, blieben die zugrunde liegenden Annahmen unverändert: vorhersehbares Verhalten, deterministische Arbeitsabläufe und Anmeldedaten, die nach einem festen Zeitplan erfasst und überprüft werden konnten. KI-Agenten widerlegen diese Annahmen. Sie analysieren Umgebungen, verknüpfen Tools mit unterschiedlichen Berechtigungsmodellen und arbeiten kontinuierlich. Unternehmen integrieren Agenten in Identitäts-Frameworks, die nicht für Akteure konzipiert wurden, die denken, sich anpassen und beständig sind.

Die Organisationen, die in Bezug auf die Sicherheit von KI-Agenten am besten aufgestellt sind, sind nicht unbedingt diejenigen, die die fortschrittlichsten Agenten einsetzen. Es sind vielmehr jene, die frühzeitig in die Grundlagen der Identitätsverwaltung investiert haben, nicht-menschliche Identitäten als vollwertige Infrastruktur behandeln, auf kurzlebige Anmeldedaten ausgelegte Systeme entwickeln und das Lebenszyklusmanagement automatisieren – und die diese Fähigkeiten nun auf autonome KI-Systeme ausweiten.

Warum Identität für die Sicherheit von KI-Agenten wichtig ist

Die Identität bildet die Grundlage für die Sicherheit von KI-Agenten. Ohne eine verifizierte, eindeutige Identität für jeden Agenten können Unternehmen diese weder authentifizieren noch autorisieren, überwachen oder zur Rechenschaft ziehen.

Vertrauen erfordert Überprüfung:
Jede Sicherheitsmaßnahme – sei es Zugriffsverwaltung, Protokollierung von Prüfungen, Reaktion auf Vorfälle usw. – hängt davon ab, dass bekannt ist, welche Instanz eine Aktion ausgeführt hat. Bei menschlichen Benutzern wird die Identität durch Anmeldedaten, Multi-Faktor-Authentifizierung und Identitätsanbieter festgestellt. KI-Agenten erfordern dieselbe Sorgfalt. Ein Agent ohne überprüfbare Identität ist ein unbekannter Akteur, der innerhalb vertrauenswürdiger Grenzen agiert.

Verantwortlichkeit erfordert Zuordnung:
Wenn ein KI-Agent eine Handlung ausführt, die unbeabsichtigte Folgen nach sich zieht, müssen Organisationen in der Lage sein, diese Handlung einem bestimmten Agenten zuzuordnen, den Kontext zu verstehen, in dem sie stattfand, und festzustellen, unter welcher Befugnis der Agent handelte. Ohne eine eindeutige Identifizierung bricht die Verantwortlichkeit zusammen. Organisationen müssen in der Lage sein, eine Reihe kritischer Fragen zu jedem Agenten in ihrer Umgebung zu beantworten: Wie funktioniert dieses System? Welche Datenschutzmaßnahmen gibt es? Woher wissen wir, welcher Agent mit welchem System interagiert? Welche Mechanismen zur Rechenschaftspflicht sind vorhanden?

Identität als Kontrollebene:
Identität ist nicht nur eine administrative Bezeichnung. Sie ist der Mechanismus, über den alle anderen Sicherheitskontrollen durchgesetzt werden. Die Authentifizierung überprüft die Identität. Die Autorisierung wird einer Identität erteilt. Zugriffsprotokolle werden einer Identität zugeordnet. Der Widerruf wirkt sich auf eine Identität aus. Ohne Identität als Kontrollebene fehlt jeder anderen Ebene der Sicherheit von KI-Agenten die Grundlage.

Die Herausforderung liegt in der Größenordnung. Auf jede menschliche Identität kommen 80 nicht-menschliche Identitäten, und KI-Agenten lassen dieses Verhältnis rapide ansteigen. Unternehmen müssen die Identitäten von KI-Agenten mit denselben Standards in Bezug auf Governance, Lebenszyklusmanagement und kryptografische Sicherheit behandeln, die sie auch für jede andere Maschinenidentität anwenden. Andernfalls laufen sie Gefahr, eine völlig unkontrollierte Klasse von Akteuren innerhalb ihrer Infrastruktur zu schaffen.

Grundprinzipien für die Absicherung von KI-Agenten

Die Sicherung von KI-Agenten erfordert eine Reihe von Leitprinzipien, die die Bereiche Governance, Technologie und betriebliche Praxis abdecken.

Eindeutige Identität:
Jeder KI-Agent muss über eine eindeutige, überprüfbare und maschinengerechte Identität verfügen, die ausgestellt, verwaltet und widerrufbar ist. Die Identität darf nicht zwischen Agenten geteilt oder von den bereitstellenden Benutzern übernommen werden.

Prinzip der geringsten Berechtigungen:
Mitarbeiter dürfen nur die für ihre aktuelle Aufgabe unbedingt erforderlichen Zugriffsrechte erhalten, nicht jedoch weitreichende Berechtigungen, die auf zukünftige Anforderungen vorwegnehmen. Der Zugriff muss auf die jeweilige Aktion, das jeweilige System und den jeweiligen Zeitrahmen beschränkt sein.

Zero Trust:
KI-Agenten darf nicht allein aufgrund ihres Standorts, ihres Betreibers oder ihres bisherigen Verhaltens implizit vertraut werden. Jede Interaktion muss überprüft werden. Zero Trust muss sich über menschenzentrierte Annahmen hinaus weiterentwickeln, um autonome maschinelle Akteure einzubeziehen.

Datenverschlüsselung:
Alle Daten, auf die ein Agent zugreift, die er überträgt oder speichert, müssen sowohl während der Übertragung als auch im Ruhezustand verschlüsselt sein. Agenten dürfen keinen Zugriff auf unverschlüsselte sensible Daten haben, es sei denn, dies ist ausdrücklich genehmigt und wird überwacht.

Kontrollierte Ausführung:
Agenten müssen innerhalb festgelegter Ausführungsgrenzen arbeiten. Maßnahmen mit erheblichen Auswirkungen müssen Validierungsschritte erfordern. Agenten dürfen ihre eigenen Berechtigungen nicht ausweiten oder ihren eigenen Zugriff ohne ausdrückliche Genehmigung erweitern.

Abfrageabsicherung:
Die Anweisungen, die ein Agent erhält, müssen manipulationssicher sein. Durch Eingabevalidierung, Integritätsprüfungen der Anweisungen sowie die Trennung von System- und Benutzeranweisungen wird das Risiko verringert, dass ein Agent dazu veranlasst wird, außerhalb seines vorgesehenen Aufgabenbereichs zu handeln.

Überwachung und Auditierung:
Jede Aktion eines Agenten muss protokolliert, zugeordnet und für die Echtzeitüberwachung sowie für nachträgliche Audits verfügbar sein. Anomales Verhalten muss Warnmeldungen auslösen. Die Prüfpfade müssen manipulationssicher sein.

Widerruf und Deaktivierung:
Organisationen müssen in der Lage sein, die Berechtigungen eines Agenten zu widerrufen, dessen Betrieb auszusetzen und ihn vollständig zu deaktivieren – und zwar sofort und ohne auf die Mitarbeit des Agenten angewiesen zu sein. Wenn ein Agent kompromittiert wurde oder sich unerwartet verhält, muss die Organisation in der Lage sein, ihn unverzüglich außer Gefecht zu setzen.

Diese Grundsätze sind keine optionalen Verbesserungen. Sie stellen die Mindestanforderungen für den verantwortungsvollen Einsatz von KI-Agenten dar. Unternehmen, die Agenten ohne diese Kontrollmechanismen einsetzen, führen autonome Akteure in ihre Infrastruktur ein, ohne diese steuern zu können.

Warum Keyfactor für die Sicherheit von KI-Agenten von Bedeutung Keyfactor

Keyfactor ein weltweit führender Anbieter im Bereich Digital Trust und hat sich auf das Management maschineller Identitäten sowie auf die Infrastruktur spezialisiert, die es Unternehmen ermöglicht, jede nicht-menschliche Entität in ihrer Umgebung zu authentifizieren, zu autorisieren und zu verwalten. KI-Agenten sind im Kern maschinelle Identitäten. Sie sind autonome Akteure, die denselben kryptografischen Vertrauensrahmen, dasselbe Lebenszyklusmanagement und dieselbe Governance erfordern, die Unternehmen bereits auf Geräte, Workloads und vernetzte Systeme anwenden.

Die Herausforderungen im Bereich der Sicherheit von KI-Agenten sind eine Erweiterung der Herausforderungen, Keyfactor seit Jahren Keyfactor : die Verwaltung von Identitäten in großem Maßstab, die Gewährleistung der Überprüfbarkeit jeder Entität sowie die Bereitstellung der Transparenz und Kontrolle, die Unternehmen benötigen, um das Vertrauen in ihre gesamte Infrastruktur aufrechtzuerhalten. Mit der zunehmenden Verbreitung von KI-Agenten wird der Bedarf an skalierbarem, automatisiertem Identitätsmanagement immer dringlicher.

Wenn Sie erfahren möchten, wie Keyfactor Ihrem Unternehmen dabei helfen Keyfactor , die Identitäten von KI-Agenten in großem Maßstab zu sichern, vereinbaren Sie eine Demo.