Agentische KI-Governance ist die Praxis, die Datenzugriffskontrolle, Berechtigungen und Aktionen autonomer KI-Agenten, die in Unternehmensumgebungen operieren, zu entdecken, zu klassifizieren, zu steuern und kontinuierlich zu überwachen.
Standardmäßige Governance-Frameworks für KI wurden für statische Modelle mit menschlicher Überprüfung bei jeder Ausgabe entwickelt. Agentische KI-Systeme funktionieren anders. Sie lesen sensible Daten, rufen externe APIs auf, schreiben in Produktionssysteme und verketten Entscheidungen, ohne auf menschliche Genehmigung zu warten.
Falls Ihr Governance-Programm noch nicht auf dem neuesten Stand ist, bietet Ihnen dieser Leitfaden einen praktischen Rahmen für sofortiges Handeln – beginnend mit dem Schritt, den die meisten Organisationen überspringen. Diese Schritt-für-Schritt-Anleitung beschreibt, wie Sie eine handlungsorientierte Governance implementieren können. KI-Governance und die Vorteile der Nutzung der KI- und Datenlösungen von BigID.
Wichtigste Erkenntnisse: Wie man eine agentenbasierte KI-Governance implementiert
- Datenermittlung und -klassifizierung müssen an erster Stelle stehen – ohne Einblick in die Datenzugriffe der Agenten basiert jede nachgelagerte Kontrollmaßnahme, einschließlich Berechtigungszuordnung, Richtliniendurchsetzung und Überwachung, auf unvollständigen Informationen.
- KI-Agenten müssen als Identitäten mit Anmeldeinformationen und Berechtigungen behandelt werden, die denen privilegierter menschlicher Benutzer gleichwertig sind, jedoch ohne inhärente Verhaltensverantwortlichkeit.
- Ohne Genehmigung der IT-Abteilung eingesetzte Schatten-KI-Agenten stellen die häufigste und gefährlichste Governance-Lücke dar – sie können nicht kontrolliert werden, wenn sie nicht gefunden werden können.
- Das sechsstufige Rahmenwerk ist bewusst sequenziell angelegt – das Überspringen oder Umordnen von Schritten, insbesondere der Grundlagen für Erkennung und Klassifizierung, hinterlässt kritische Lücken, die bei Prüfungen und Vorfällen aufgedeckt werden.
- Die Durchsetzung von Richtlinien muss automatisiert und aktionsspezifisch erfolgen und festlegen, welche Daten Agenten lesen, schreiben, löschen und ausgeben dürfen – eine manuelle Überprüfung ist in agentenbasierten Umgebungen nicht skalierbar.
- Governance ist ein kontinuierlicher Prozess und kein einmaliger Prüfpunkt bei der Bereitstellung – neue Agentenbereitstellungen, Datenquellen, Berechtigungsaktualisierungen und Modelländerungen erfordern eine fortlaufende Risikobewertung über den gesamten Lebenszyklus des Agenten hinweg.
Zusammenfassung der Implementierung von agentischer Governance
- Datenermittlung und -klassifizierung müssen Priorität haben. Ohne Einblick in die Daten, auf die Agenten zugreifen, sind alle nachgelagerten Kontrollmechanismen unzuverlässig.
- KI-Agenten fungieren als Identitäten mit Zugangsdaten und Berechtigungen, die denen menschlicher Benutzer ähneln, jedoch ohne Verantwortlichkeit für das eigene Verhalten.
- Schatten-KI-Agenten, die ohne Genehmigung der IT-Abteilung eingesetzt werden, stellen eine erhebliche Governance-Lücke dar.
- Das NIST-Rahmenwerk für KI-Risikomanagement und EU-KI-Gesetz Artikel 10 fordert eine Prüfbarkeit, die die meisten agentenbasierten Implementierungen derzeit nicht erfüllen können.
- Governance ist ein kontinuierlicher Prozess. Die Risikobewertung muss sich über den gesamten Lebenszyklus des Agenten erstrecken, nicht nur über den Zeitpunkt der Bereitstellung.
Warum agentenbasierte KI ein anderes Governance-Modell erfordert
Die traditionelle KI-Governance geht von einer menschlichen Überprüfung vor jeder Aktion aus. Agentenbasierte KI beseitigt diesen Kontrollpunkt. Agenten agieren in mehrstufigen Arbeitsabläufen, interagieren mit externen Tools, rufen Daten aus Vektordatenbanken und RAG-Pipelines (Retrieval-Augmented Generation) ab und schreiben die Ergebnisse zurück in die Produktionssysteme. Jede Aktion erhöht das Risiko.
Ein einzelner, übermäßig mit Berechtigungen ausgestatteter Agent mit Zugriff auf sensible Systeme, wie beispielsweise Datenbanken im Gesundheitswesen oder im Finanzwesen, kann ein dauerhaftes regulatorisches Risiko darstellen., regulatorische Erwartungen entwickeln sich weiter; beispielsweise fordern Rahmenwerke wie das NIST AI RMF und Artikel 10 des EU AI Act die Nachvollziehbarkeit und die Rückverfolgbarkeit der Datenherkunft.
Governance-Modelle, die für statische KI-Systeme entwickelt wurden, können diese Anforderungen ohne Anpassung nicht erfüllen, und genau hier kommen agentenbasierte KI-Governance-Plattformen ins Spiel.
Das 6-stufige Governance-Framework für agentenbasierte KI
Die Implementierung einer agentenbasierten KI-Governance erfordert sechs aufeinanderfolgende Schritte:
- Entdecken Sie die von KI-Agenten verwendeten Daten.
- Identifizieren Sie sensible und regulierte Daten
- Berechtigungen und Zugriff des Kartenagenten
- Wenden Sie Governance-Richtlinien auf das Handeln von Agenten an.
- Agentenverhalten und Datennutzung überwachen
- Risiko kontinuierlich bewerten
Dieser Prozess beginnt mit der Datenermittlung und -klassifizierung, die die Grundlage für jeden nachfolgenden Schritt bildet.
Schritt 1: Daten ermitteln, die von KI-Agenten verwendet werden
Governance beginnt mit Transparenz. Daten, die man nicht einsehen kann, lassen sich nicht verwalten. Agenten verbinden sich mit strukturierten Datenbanken, unstrukturierten Speichern, SaaS-Plattformen, Vektordatenbanken und RAG-Workflows. Jede dieser Verbindungen birgt ein potenzielles Sicherheitsrisiko.
Die Herausforderung besteht nicht nur darin, zugelassene Agenten zu identifizieren, sondern auch im Verborgenen agierende KI-Agenten aufzudecken, die außerhalb der formalen Steuerung operieren.
Discovery erstreckt sich über den gesamten Lebenszyklus:
- Trainingsdaten
- Inferenzzeit-Abruf
- Ergebnisse und nachgelagerte Aktionen
Schritt 2: Identifizieren Sie sensible und regulierte Daten
Nicht alle Daten bergen das gleiche Risiko, und die Klassifizierung bestimmt, wo Kontrollmechanismen Anwendung finden.
Zu den sensiblen Daten gehören:
- Persönlich identifizierbare Informationen (PII)
- Geschützte Gesundheitsinformationen (PHI)
- Zahlungskartendaten (PCI)
- Referenzen und geistiges Eigentum
Genauigkeit ist entscheidend. Falsch-negative Ergebnisse legen regulierte Daten offen. Zudem werden problematische Datenkombinationen identifiziert, bei denen Felder mit geringem Risiko zu Profilen mit hohem Risiko verschmelzen – etwas, das durch einfache Stichwortsuche nicht erkannt werden kann. Die Klassifizierungsergebnisse fließen direkt in die Berechtigungszuordnung und die Durchsetzung von Richtlinien ein.
Schritt 3: Agentenberechtigungen und Zugriffsrechte verwalten
KI-Agenten sollten als eigenständige Personen behandelt werden. Sie besitzen Zugangsdaten, erben Berechtigungen und greifen wie menschliche Nutzer auf Daten zu, jedoch ohne Rechenschaftspflicht. Übermäßiger Zugriff ist eines der häufigsten Governance-Probleme.
Die identitätsbasierte Erkennung verknüpft sensible Daten mit den spezifischen Akteuren, die darauf zugreifen.
Zum Beispiel die Access Intelligence App von BigID:
- Identifiziert, welche Agenten und Modelle auf sensible Daten zugreifen.
- Erkennt übermäßige Berechtigungen
- Unterstützt die Durchsetzung des Prinzips der minimalen Privilegien in allen Umgebungen
Die Vorgehensweise ist die gleiche wie bei privilegierten menschlichen Benutzern: Zuerst den Zugriff abbilden, dann einschränken.
Schritt 4: Governance-Richtlinien auf Agentenaktionen anwenden
Richtlinien müssen mit den tatsächlichen Tätigkeiten der Agenten übereinstimmen: Lesen, Schreiben, Löschen, Aufrufen externer APIs und Generieren von Ausgaben.
Jede Aktionsart birgt unterschiedliche Risiken, daher sollten die Richtlinien Folgendes definieren:
- Auf welche Daten können Agenten zugreifen?
- Unter welchen Bedingungen
- Welche Ausgaben sind zulässig?
- Wo menschliche Aufsicht erforderlich ist
Schnelle und effektive Kontrollmechanismen sind besonders wichtig, um die Offenlegung sensibler Daten zu verhindern. Bei großem Umfang muss die Durchsetzung von Richtlinien automatisiert werden, da eine manuelle Überprüfung nicht praktikabel ist.
Schritt 5: Agentenverhalten und Datennutzung überwachen
Richtlinien allein reichen nicht aus, da sich Akteure weiterentwickeln und sich Datenumgebungen verändern. Verhaltensüberwachung identifiziert:
- Zugriff außerhalb des definierten Bereichs
- Unbefugte Aktionen
- Anomale Nutzungsmuster
Die Nachverfolgung der Datenherkunft, von der Datenerfassung über das Training bis hin zur Inferenz, ist für die Nachvollziehbarkeit unerlässlich. Sowohl das NIST-Rahmenwerk für KI-Risikomanagement als auch Artikel 10 des EU-KI-Gesetzes fordern diese Art der Rückverfolgbarkeit.
Außerdem muss die Überwachung zu Maßnahmen führen; ohne Abhilfemaßnahmen bleibt es bei der bloßen Beobachtung.
Schritt 6: Kontinuierliche Risikobewertung über den gesamten Agentenlebenszyklus hinweg
Die Risikobewertung sollte kontinuierlich erfolgen. BigID kombiniert beispielsweise KI-gestütztes Sicherheitsmanagement mit automatisierter Risikobewertung, um Risiken in Bezug auf Daten, Zugriff und Nutzung zu erkennen, zu bewerten und zu beheben.
Zu den Veränderungen, die das Risiko beeinflussen, gehören:
- Neue Agentenbereitstellungen
- Neue Datenquellen
- Berechtigungsaktualisierungen
- Modelländerungen
Bei der Risikobewertung sollten folgende Aspekte berücksichtigt werden:
- Datensensibilität
- Zugriffsbereich
- Agentenautonomie
- Regulierungsbelastung
Dadurch entsteht eine priorisierte Sicht auf das Risiko, sodass sich die Teams auf die wichtigsten Probleme konzentrieren können.
Die kontinuierliche Bewertung schließt den Kreislauf:
- Die Überwachung liefert Informationen für Risikobewertungen.
- Risikobewertungen lösen Richtlinienaktualisierungen aus
- Richtlinien schränken zukünftiges Verhalten ein
Warum Datenermittlung und -klassifizierung grundlegend sind
Jeder Schritt in diesem Rahmenwerk setzt voraus, dass man versteht, welche Daten existieren und wie sensibel diese sind.
Ohne Entdeckung und Klassifizierung:
- Die Berechtigungszuordnung ist unvollständig.
- Richtlinien werden falsch angewendet
- Dem Monitoring fehlt der Kontext.
Organisationen, die diesen Schritt überspringen, bauen ihre Governance auf Annahmen auf, die sich bei Audits und der Reaktion auf Sicherheitsvorfälle als falsch erweisen können. Datenermittlung und -klassifizierung sind keine einmaligen Aufgaben, sondern müssen kontinuierlich erfolgen, um mit dem Datenwachstum und der Aktivität der Agenten Schritt zu halten.
Schaffen Sie Governance, bevor Ihre Mitarbeiter Risiken aufbauen.
Die größte Governance-Lücke bei agentenbasierter KI ist die Transparenz. Ohne Erkennung, Klassifizierung und Überwachung können Organisationen keine sinnvollen Kontrollen durchsetzen. Dieses sechsstufige Rahmenwerk schließt diese Lücke schrittweise und beginnt mit den Grundlagen, die die meisten Teams vernachlässigen.
Vertrauens-, Risiko- und Sicherheitsmanagement für KI bei BigID (AI TRiSMDas Framework erkennt KI-Modelle, Agenten, Datensätze, Vektordatenbanken, Eingabeaufforderungen und KI von Drittanbietern aus über 200 Datenquellen, einschließlich nicht genehmigter Implementierungen. Es bietet eine durchgängige Abdeckung des Agentenlebenszyklus – von der Erkennung von Schatten-KI über die Durchsetzung des Prinzips der minimalen Berechtigungen bis hin zur Unterstützung von Audit-Anforderungen. So können Unternehmen Agenten proaktiv statt reaktiv steuern.
Häufig gestellte Fragen zur agentenbasierten KI-Governance
Wie steuert man KI-Agenten, die autonome Entscheidungen ohne menschliche Zustimmung treffen?
Durch die Verlagerung der Kontrolle auf die Vorbereitstellungsphase und die kontinuierliche Steuerung können zugängliche Daten klassifiziert, der Zugriff nach dem Prinzip der minimalen Berechtigungen durchgesetzt, Richtlinien auf Aktionsebene definiert und das Verhalten kontinuierlich überwacht werden.
Auf welche Daten greifen KI-Agenten zu und wie findet man das heraus?
Agenten verbinden sich mit Datenbanken, Dateispeichern, SaaS-Plattformen, Vektordatenbanken und RAG-Workflows. Vollständige Transparenz erfordert die automatisierte Erkennung aller Datenquellen, einschließlich nicht autorisierter Umgebungen.
Wie wendet man das Prinzip der minimalen Berechtigungen für KI-Agenten an?
Behandeln Sie Agenten als Identitäten. Erfassen Sie ihre Zugriffsrechte, identifizieren Sie übermäßige Berechtigungen und beschränken Sie die Privilegien auf das für ihre Aufgaben Notwendige.
Welche regulatorischen Rahmenbedingungen gelten für agentenbasierte KI?
Das NIST-Rahmenwerk für KI-Risikomanagement und Artikel 10 des EU-KI-Gesetzes sind die wichtigsten Referenzen. Je nach Branche gelten zusätzliche Anforderungen, wie beispielsweise der Health Insurance Portability and Accountability Act (HIPAA) im Gesundheitswesen und regulatorische Richtlinien für den Finanzsektor.
Wie lässt sich das Verhalten von Agenten überwachen, ohne den Betrieb zu stören?
Durch die Festlegung eines Referenzbereichs für erwartetes Verhalten und die Kennzeichnung von Abweichungen konzentriert sich die Überwachung auf Anomalien, anstatt alle Aktionen zu blockieren.
Autor
