KI-Agenten handeln selten allein.
Ein Benutzer bittet einen Agenten, eine Kundenverlängerung vorzubereiten. Der Agent fragt ein CRM-System ab, ruft Support-Datensätze ab, kontaktiert einen anderen Agenten, um die Produktnutzung zu analysieren, und aktualisiert das Konto mithilfe einer Anwendung.
Jeder Schritt kann eine andere Identität, Anmeldeinformationen, Berechtigungssätze und Zugriffspfade erfordern.
Doch eine Frage verbindet den gesamten Arbeitsablauf:
Wessen Autorität übt der KI-Agent aus?
Das ist das Problem von KI-Agentendelegation.
Delegation liegt vor, wenn ein KI-Agent mit Berechtigungen handelt, die ihm von einer anderen Identität oder einem anderen System erteilt, vererbt oder übertragen wurden. Diese Berechtigungen können von einem menschlichen Benutzer, einer Anwendung, einem Dienstkonto, einer Maschinenidentität, einem anderen Agenten oder einer Kombination davon stammen.
Dies unterscheidet die Delegierung von der Authentifizierung oder Autorisierung.
- Authentifizierung bestimmt, wer oder was eine Identität ist.
- Genehmigung bestimmt, worauf diese Identität zugreifen oder was sie tun darf.
- Delegation bestimmt, wessen Befugnisse ein Beauftragter bei seinem Handeln ausüben kann.
Für Sicherheitsteams ist diese Unterscheidung wichtig, da sich ein KI-Agent unter einer bestimmten Identität authentifizieren kann, während er Berechtigungen ausübt, die ihren Ursprung woanders haben.
Die Identität, die zur Authentifizierung dient, ist nicht immer die Identität, die die Autorität verliehen hat.
Wenn Agenten beginnen, Tools aufzurufen, APIs zu nutzen, Subagenten zu starten und unternehmensweit zu agieren, müssen Organisationen die Beziehung zwischen diesen aufrechterhalten. Identität, Befugnis, Zweck, sensible Daten und Maßnahmen über die gesamte Delegationskette hinweg.
KI-Agentendelegierung: Wichtigste Erkenntnisse
- Delegierung ist nicht Authentifizierung. Die Authentifizierung dient dem Identitätsnachweis. Die Delegation legt fest, wessen Befugnisse ein KI-Agent ausüben darf.
- Delegierte Autorität kann mehrere Identitäten umfassen. Ein Benutzer kann einen Agenten aufrufen, der eine Anwendung, ein Dienstkonto, eine API, ein Tool oder einen anderen Agenten aufruft.
- Autorität sollte sich nicht automatisch mit ihrer Ausbreitung ausdehnen. Bei jedem Schritt sollten die für die ursprüngliche Aufgabe erforderlichen Berechtigungen beibehalten oder eingeschränkt werden.
- Der Datenkontext verändert das Delegationsrisiko. Delegierter Zugriff wird dann besonders bedeutsam, wenn er Kundendaten, Mitarbeiterakten, Zugangsdaten, Finanzinformationen, Quellcode oder andere sensible Daten betrifft.
- Multiagentensysteme erzeugen Autoritätsketten. Sicherheitsteams müssen den ursprünglichen Initiator, jede delegierte Identität, die verwendeten Berechtigungen, die abgerufenen Daten und die daraus resultierenden Aktionen verstehen.
- BigID verknüpft KI-Identität und -Zugriff mit dem Kontext sensibler Daten. Dies hilft Organisationen dabei, zu erkennen, wo delegierte und vererbte Zugriffsrechte ein sinnvolles Risiko darstellen und wo Teams die Berechtigungen reduzieren sollten.
Was ist KI-Agentendelegierung?
Die Delegation von Befugnissen an KI-Agenten ist die Übertragung oder Ausübung von Autorität, die es einem KI-Agenten ermöglicht, eine Aufgabe auszuführen, auf eine Ressource zuzugreifen, ein anderes System aufzurufen oder im Namen einer anderen Identität zu handeln.
Stellen Sie sich einen Mitarbeiter vor, der einen KI-gestützten Unternehmensassistenten nutzt.
Der Mitarbeiter fragt:
“Meine Kundenkonten überprüfen und Verlängerungen identifizieren, die Aufmerksamkeit erfordern.”
Der Agent muss möglicherweise Folgendes tun:
- Den anfragenden Benutzer erkennen.
- Zugriff auf Konten, die der Benutzer einsehen kann.
- Kundeninformationen abrufen.
- Produktnutzung über eine andere Anwendung abfragen.
- Ziehen Sie einen spezialisierten Mitarbeiter hinzu, um die Supporthistorie zu analysieren.
- Rückgabeempfehlungen.
Der Agent besitzt nicht zwangsläufig alle erforderlichen Berechtigungen, um diese Schritte durchzuführen.
Es kann delegierte Benutzerberechtigungen ausüben, seine eigene Anwendungsidentität verwenden, ein Dienstkonto aufrufen oder Aufgaben an eine andere KI-Identität weitergeben.
Dadurch entsteht eine Autoritätskette.
Die Delegationskette
Die Befugnisse der Behörde reichen über den ursprünglichen Antrag hinaus.
Startet die Aufgabe
Erhält die Befugnis
Übungszugang
Wird erreichbar
Sicherheitsfrage: Lässt sich die letzte Handlung über jede Identität und Berechtigung bis zur ursprünglichen Autorität zurückverfolgen?
KI-Agenten-Delegation vs. Authentifizierung vs. Autorisierung
Delegierung wird oft mit Authentifizierung und Autorisierung zusammengefasst, aber jede von ihnen beantwortet eine andere Sicherheitsfrage.
| Kontrolle | Frage | Beispiel |
|---|---|---|
| Authentifizierung | Wer oder was ist das? | Die KI-Anwendung authentifiziert sich mithilfe ihrer Anwendungsidentität. |
| Genehmigung | Welchen Zugriff oder welche Aktionen kann diese Identität ausführen? | Die Anwendung kann Kundendatensätze lesen, aber nicht löschen. |
| Delegation | Wessen Autorität wird ausgeübt? | Der Agent greift nur auf die Kundendatensätze zu, die dem Benutzer zur Verfügung stehen, der die Aufgabe initiiert hat. |
Diese Unterscheidung ist wichtig, weil ein erfolgreich authentifiziertes KI-System dennoch unangemessen delegierte Befugnisse ausüben kann.
Ein Agent kann über eine gültige Identität und gültige Zugangsdaten verfügen und dennoch mehr Befugnisse erhalten, als der Benutzer beabsichtigt hat oder die Geschäftsaufgabe erfordert.
Eine ausführlichere Behandlung der ersten beiden Kontrollen finden Sie unter KI-Agenten-Authentifizierung vs. Autorisierung.
Folgen Sie der Autorität zu den Daten
Erfahren Sie, worauf KI über Benutzer, Apps, APIs, Dienstkonten und Maschinenidentitäten zugreifen kann.
Verknüpfen Sie KI-Identitäten und vererbte Zugriffspfade mit sensiblen Daten, damit Teams übermäßige Berechtigungen erkennen und das Risiko verringern können.
Wie KI-Agenten delegierte Autorität erhalten
Die KI-Delegation folgt keinem einheitlichen technischen Muster.
Unternehmensagenten können über verschiedene Wege Berechtigungen erhalten oder ausüben.
Delegierter Benutzerzugriff
Ein Agent handelt im Auftrag eines angemeldeten Benutzers und greift auf Ressourcen innerhalb des von diesem Benutzer autorisierten Bereichs zu.
Dieses Modell kann die Zugriffsgrenzen des Benutzers wahren, wenn nachgelagerte Systeme die delegierte Identität korrekt durchsetzen.
Zugriff über Anwendung oder nur über App
Ein Agent oder dessen Anwendung agiert unter Verwendung seiner eigenen Identität und Berechtigungen anstatt der Berechtigungen eines angemeldeten Benutzers.
Dieses Muster unterstützt die Automatisierung im Hintergrund, aber die Teams müssen den Zugriff der Anwendung genau einschränken, da sie unabhängig von den Berechtigungen eines Benutzers funktionieren kann.
Zugriff auf das Dienstkonto
Eine KI-Anwendung oder ein KI-Agent verwendet ein Dienstkonto, um auf eine Datenbank, eine SaaS-Anwendung, ein Dateirepository oder eine andere Unternehmensressource zuzugreifen.
Besitzt dieses Konto bereits weitreichende Berechtigungen, kann das KI-System einen Zugriffsbereich erben, der weit über seinen eigentlichen Zweck hinausgeht.
API- und OAuth-Zugriff
Ein Agent nutzt API-Berechtigungen oder OAuth-Bereiche, um mit nachgelagerten Diensten zu interagieren.
Die tatsächliche Autorität hängt von den Geltungsbereichen, Rollen, nachgelagerten Durchsetzungsmechanismen und dem Identitätskontext ab, die der Workflow beibehält.
Agent-zu-Agent-Delegation
Ein Agent weist einem anderen Agenten einen Teil einer Aufgabe zu.
Der empfangende Agent kann über eine eigene Identität und eigene Berechtigungen verfügen, delegierten Kontext erhalten oder Werkzeuge verwenden, die dem initiierenden Agenten nicht zur Verfügung stehen.
Dadurch kann ein Problem mit verketteten Berechtigungen entstehen, bei dem die letzte Aktion mehrere Schritte von der ursprünglichen Anfrage entfernt ist.
Delegierter Zugriff vs. App-Only-Zugriff
Eine der nützlichsten Unterscheidungen für KI in Unternehmen ist die Frage, ob der Agent agiert. für einen Benutzer oder als selbst.
Delegierter Zugriff
Der Agent handelt im Auftrag eines Benutzers.
Die Autorität geht von Folgendem aus: Benutzer
Erwartete Grenze: Zulässiger Bereich des Benutzers
Hauptrisiko: Verlust oder Erweiterung des Autorisierungskontexts des Benutzers im Verlauf des Workflows
Zugriff nur über die App
Der Agent agiert als er selbst
Die Autorität geht von Folgendem aus: Anwendungs- oder Maschinenidentität
Erwartete Grenze: Zugewiesene Anwendungsberechtigungen
Hauptrisiko: Anhaltender oder übermäßiger Anwendungszugriff, der über die unmittelbare Aufgabe hinausgeht
Keines der beiden Modelle ist für sich allein ausreichend.
Die richtige Vorgehensweise hängt von der Aufgabe, der Systemarchitektur, den Ressourcen, der Sensibilität der Daten und den Aktionen ab, die der Agent ausführen muss.
Die wichtigste Kontrollmaßnahme besteht darin, die Befugnisse eindeutig zu definieren und sie auf den vorgesehenen Zweck zu beschränken.
Der größte Delegationsfehler: Ausweitung der Befugnisse
Delegation sollte nicht mit einer Ausweitung der Befugnisse einhergehen.
Betrachten wir folgende Kette:
Benutzer → Agent A → Agent B → Datenbank
Der Benutzer kann nur auf Konten in Nordamerika zugreifen.
Agent A empfängt diesen Benutzerkontext korrekt.
Agent A delegiert die Analyse anschließend an Agent B.
Agent B fragt die Datenbank über ein Servicekonto mit globalem Kundenzugriff ab.
Der Workflow hat eine Autorisierungsgrenze überschritten.
Agent B mag zwar technisch gesehen die Berechtigung haben, jeden Kundendatensatz abzufragen, das bedeutet aber nicht, dass der ursprüngliche Benutzer den Workflow dazu autorisiert hat.
Delegationsrisiko
Die Autorität sollte im Zuge der Aufgabenbearbeitung begrenzt bleiben.
Benutzer
Nordamerika-Konten
Agent A
Behält den Benutzerbereich bei
Agent B
Nutzt ein globales Servicekonto
Globale Daten
Erweiterte Befugnisse
Die Genehmigung liegt vor. Die Delegation überschreitet dennoch die vorgesehene Grenze.
Deshalb geringstes Privileg für KI-Agenten kann nicht beim ersten Glied in der Kette aufhören.
Die Sicherheitsteams müssen den effektiven Zugriff in jedem delegierten Schritt bewerten.
Delegation kann vier verschiedene Formen annehmen
01 · Mensch → Agent
Eine Person erteilt einem KI-System die Befugnis, in ihrem Namen zu handeln.
02 · App → Agent
Ein KI-Agent agiert über die Berechtigungen, Rollen oder das Dienstkonto einer Anwendung.
03 · Agent → Werkzeug
Ein Agent ruft ein Tool oder eine API auf, die über eigene Zugriffsrechte verfügt.
04 · Agent → Agent
Eine KI-Identität delegiert eine Aufgabe oder einen Kontext an eine andere KI-Identität.
Derselbe Unternehmensworkflow kann alle vier enthalten.
Genau das macht die KI-Delegation zu einem Problem der Identität, des Zugriffs und der Datensicherheit und nicht nur zu einem Problem der Anwendungsarchitektur.
KI-Agenten-Delegation vs. Identitätsdiebstahl
Delegation und Identitätsdiebstahl können ähnlich erscheinen, da beide einer Entität ermöglichen, in Bezug auf eine andere Identität zu handeln.
Die Absicht der Regierungsführung ist jedoch eine andere.
Delegation sollte eine explizite Beziehung zwischen der ursprünglichen Identität und der in ihrem Namen handelnden Entität aufrechterhalten.
Identitätsdiebstahl ermöglicht es einer anderen Entität, so zu agieren, als wäre sie die ursprüngliche Identität.
Bei KI-Systemen bietet die explizite Delegation im Allgemeinen eine bessere Verantwortlichkeit, da die Teams beide Seiten der Beziehung wahren können:
Ursprünglicher Auftraggeber → Handelnder Beauftragter
Diese Unterscheidung wird im Verlauf der Ermittlungen wichtig.
Wenn ein Mitarbeiter einen Kundendatensatz ändert, sollte das Unternehmen idealerweise Folgendes feststellen:
- Welcher Agent hat die Aktion ausgeführt?
- Welche Identität hat den Workflow initiiert?
- Welche Befugnisse der Beauftragte ausübte
- Welche Berechtigungen haben die Änderung ermöglicht?
- Auf welche Daten der Agent vor seinem Handeln zugegriffen hat
- Ob die Handlung im Rahmen des delegierten Zwecks blieb
Warum Multiagentensysteme die Delegation erschweren
Die Delegation wird deutlich komplexer, wenn Agenten andere Agenten aufrufen können.
Halten:
Benutzer → Orchestrator-Agent → Recherche-Agent → Finanz-Agent → Zahlungstool
Der ursprüngliche Nutzer interagiert möglicherweise nie direkt mit dem Finanzagenten oder dem Zahlungstool.
Die endgültige Aktion kann jedoch immer noch von der ursprünglichen Anfrage des Nutzers ausgehen.
Multi-Agent-Delegation
Jeder Schritt fügt eine weitere Identität, eine weitere Berechtigungsgrenze und eine weitere Frage der Verantwortlichkeit hinzu.
Wer agierte bei jedem Sprung?
Wessen Berechtigungen wurden beantragt?
Was wurde sichtbar?
Was hat sich geändert?
Sicherheitsteams müssen die Kette beibehalten, anstatt jeden Aufruf als ein unabhängiges Authentifizierungsereignis zu behandeln.
Hier ist IAM für KI-Agenten und KI-gestützte Identitätsverwaltung gewinnt besondere Bedeutung.
Die sieben Risiken der Delegierung von KI-Agentenaufgaben
1. Übermäßige delegierte Befugnisse
Der Agent erhält mehr Befugnisse, als die Aufgabe erfordert.
Ein Benutzer kann einen KI-Assistenten autorisieren, einen Ordner zusammenzufassen, während eine zugrunde liegende Integration Zugriff auf ein gesamtes Repository gewährt.
2. Autoritätserweiterung über mehrere Hops hinweg
Ein nachgelagerter Agent, ein Tool, eine Anwendung oder ein Dienstkonto verfügt über umfassendere Berechtigungen als die Identität, die den Workflow initiiert hat.
Der Workflow erhält somit im Verlauf seiner Bewegung Zugriff.
3. Kontext der verlorenen Identität
Ein nachgelagertes System sieht nur noch den Agenten oder das Dienstkonto und verliert die Identität des ursprünglichen Initiators.
Dies erschwert die Rechenschaftspflicht und die Durchsetzung von Richtlinien.
4. Übermäßige Datenoffenlegung
Delegierte Berechtigungen können sensible Informationen offenlegen, die für die Aufgabe nicht erforderlich sind.
Der Zugriff kann technisch erfolgreich sein, obwohl dabei das Prinzip der minimalen Berechtigungen oder der Geschäftszweck verletzt werden.
5. Delegationsketten, die die Aufgabe überdauern
Persistente Token, Dienstkonten, OAuth-Berechtigungen oder Anwendungsberechtigungen können auch nach Beendigung der ursprünglichen Anfrage weiterhin verfügbar bleiben.
Eine vorübergehende geschäftliche Absicht kann einen dauerhaften technischen Zugang schaffen.
6. Kontextleck zwischen Agenten
Ein initiierender Agent kann sensible Kontextinformationen an einen anderen Agenten weitergeben, der nicht alle Informationen benötigt.
Delegation betrifft daher sowohl Befugnisse als auch Informationen.
7. Unklare Verantwortlichkeiten
Wenn mehrere Agenten und Tools an einem Workflow beteiligt sind, kann es für die Teams schwierig sein, festzustellen, wer den Zugriff genehmigt hat, welche Identität die Aktion verursacht hat und wer für die Behebung der Mängel zuständig ist.
Das Delegationsrisiko ist auch ein Datenproblem
Berechtigungen allein können Sicherheitsteams nicht mitteilen, welche Delegierungspfade am wichtigsten sind.
Betrachten wir zwei Agenten mit delegiertem Lesezugriff.
Agent A kann öffentliche Marketingmaterialien abrufen.
Agent B kann personenbezogene Daten von Kunden, Mitarbeiterdatensätze, Verträge, Qualifikationsnachweise, Finanzinformationen und geistiges Eigentum abrufen.
Das Delegationsmuster kann in einem IAM-System ähnlich aussehen.
Das Risiko besteht nicht.
Delegierter Zugriff wird dann zu einem ernstzunehmenden Sicherheitsrisiko, wenn Teams die Identitäts- und Berechtigungskette mit den dahinterliegenden sensiblen Daten verknüpfen.
Datenbewusste Delegation
Eine Berechtigung zeigt an, dass Zugriff besteht. Der Datenkontext zeigt an, was auf dem Spiel steht.
Identität + Delegierte Befugnis + Berechtigung + Sensible Daten + Aktivität + Geschäftszweck = Sinnvolles Delegationsrisiko
Dies ist dasselbe Prinzip, das dahinter steckt AI Access GovernanceOrganisationen müssen KI-Systeme und Zugriffspfade zu den sensiblen Daten verbinden, die durch diese Berechtigungen offengelegt werden.
Wie man die Delegierung von KI-Agenten sichert
1. Jedem KI-Agenten eine identifizierbare Identität zuweisen
Organisationen müssen den Agenten von den Anmeldeinformationen, Anwendungen und Dienstkonten, die er verwendet, unterscheiden.
KI-Identität, Maschinenidentität und Dienstkonto einen verwandten, aber unterschiedlichen Governance-Kontext bereitstellen.
2. Das ursprüngliche Prinzip bewahren
Wenn ein Agent im Namen eines Benutzers handelt, sollte die Beziehung zu diesem Benutzer während des gesamten Arbeitsablaufs erhalten bleiben, damit nachgelagerte Kontrollmechanismen die ursprüngliche Berechtigung überprüfen können.
3. Delegation explizit machen
Teams sollten wissen, wann ein Agent für einen Benutzer agiert: als er selbst, über eine Anwendung oder über einen anderen Agenten.
Versteckte Delegierung erschwert das Verständnis effektiver Zugriffsrechte.
4. Ausweitung der Befugnisse verhindern.
Ein nachgelagerter Agent oder ein nachgelagertes Tool sollte nicht automatisch eine umfassendere Autorität erlangen, nur weil seine eigene technische Identität über mehr Berechtigungen verfügt.
Die relevanten Zugriffsgrenzen im Workflow beibehalten oder reduzieren.
5. Datenorientiertes Prinzip der minimalen Berechtigungen anwenden
Ermitteln Sie nicht nur, auf welche Systeme der Agent zugreifen kann, sondern auch, welche sensiblen Daten sich hinter diesen Berechtigungen verbergen.
Dann sollte die delegierte Befugnis, die den genehmigten Zweck des Beauftragten überschreitet, reduziert werden.
6. Werkzeuge und Aktionen separat betrachten
Die Berechtigung zum Abrufen von Informationen sollte nicht automatisch die Berechtigung zur Änderung von Datensätzen, zum Versenden von Nachrichten, zum Auslösen von Zahlungen, zum Löschen von Daten oder zur Durchführung administrativer Aktionen beinhalten.
7. Dauer der Delegation begrenzen
Wo immer möglich, sollte der delegierte Zugriff an die Dauer der Aufgabe angepasst werden, anstatt einen dauerhaften Zugriff zu schaffen, der über den Geschäftsbedarf hinaus besteht.
8. Steuerung der Agenten-zu-Agenten-Delegierung
Definieren Sie, welche Agenten andere Agenten aufrufen dürfen, welchen Kontext sie teilen können, welche Berechtigungen mit der Anfrage übertragen werden können und welche nachfolgenden Aktionen eine Genehmigung erfordern.
9. Überwachung der Aktivitäten sensibler Daten
Die Autorisierung zeigt an, was ein Beauftragter tun darf.
Überwachung der Datenaktivität Hilft Teams dabei zu verstehen, was Identitäten tatsächlich mit sensiblen Informationen machen.
10. Die Delegationslinie bewahren
Die Ermittler sollten in der Lage sein, Folgendes zu rekonstruieren:
Initiator → Agent → Delegierte Identität → Werkzeug → Daten → Aktion
11. Zugriff widerrufen, wenn sich der Zweck ändert
Agenten, Anwendungen, Integrationen und Servicekonten sollten nach Änderungen des Workflows, des Projekts, des Eigentümers oder des Geschäftszwecks keine delegierte Berechtigung behalten.
Die Delegation sollte das Risiko nicht erhöhen
KI-Identitäten, vererbte Berechtigungen und delegierter Zugriff auf sensible Daten miteinander verbinden
Erfahren Sie, wo Agenten, Anwendungen, APIs, Dienstkonten, Maschinenidentitäten und Benutzer Zugriffspfade erstellen, die über den Geschäftsbedarf hinausgehen.
Checkliste zur Sicherheit der Delegierung von KI-Agenten
Bereitschaft zur Übertragung von Befugnissen
Kann Ihr Team diese Fragen beantworten?
✓ Welche KI-Agenten können im Namen von Nutzern handeln?
✓ Welche Agenten agieren über Anwendungs- oder Maschinenidentitäten?
✓ Welche Servicekonten unterstützen KI-Workflows?
✓ Welche Agenten können Aufgaben an andere Agenten delegieren?
✓ Können nachgelagerte Systeme den ursprünglichen Initiator identifizieren?
✓ Bleibt die Autorität über jeden Delegationsschritt hinweg begrenzt?
✓ Welche sensiblen Daten können durch delegierte Berechtigungen offengelegt werden?
✓ Können Agenten sensible Kontextinformationen mit anderen Agenten teilen?
✓ Welche Tools und Aktionen kann jede delegierte Identität nutzen?
✓ Welche Aktionen erfordern eine menschliche Genehmigung?
✓ Sind delegierte Anmeldeinformationen oder Berechtigungen auch nach Beendigung der Aufgabe gültig?
✓ Können die Ermittler die vollständige Delegationskette rekonstruieren?
✓ Können Teams die delegierten Zugriffsrechte schnell reduzieren oder widerrufen, wenn sich das Risiko ändert?
Wie BigID die Delegation von KI-Agenten steuert
Die Delegierung von KI-Agenten schafft ein Problem, das sich nicht allein durch Berechtigungslisten lösen lässt.
Sicherheitsteams müssen den KI-Akteur, die zugrunde liegenden Identitäten, die vererbten Berechtigungen, die delegierten Zugriffspfade, die sensiblen Daten, die Aktivitäten, die Eigentümerschaft und die daraus resultierenden Aktionen miteinander verbinden.
BigID geht dieses Problem von den Daten aus an.
BigID unterstützt Organisationen:
- KI-Identitäten verwalten: Entdecken Sie Agenten, Copiloten, KI-Anwendungen, autonome Arbeitsabläufe, Eigentümer, Berechtigungen und den Lebenszykluskontext.
- KI-Zugriffswege verstehen: Verbinden Sie KI-Systeme mit Anwendungen, APIs, Benutzern, Dienstkonten, Maschinenidentitäten, geerbten Berechtigungen und den sensiblen Daten, die diesem Zugriff zugrunde liegen.
- Autonome Agenten steuern: Inventarisieren Sie KI-Agenten, legen Sie Besitzverhältnisse fest, ordnen Sie Zugriffsrechte zu, verbinden Sie Agenten mit sensiblen Daten, priorisieren Sie Risiken und überwachen Sie Aktivitäten.
- Maschinenidentitätskontext hinzufügen: Verstehen Sie die Servicekonten, Anwendungen, APIs, Workloads, Automatisierungen und andere nicht-menschliche Identitäten, die den KI-Zugriff unterstützen.
- Übermäßigen Zugriff erkennen: Identifizieren Sie unnötige oder risikoreiche Zugriffe, die sensible Unternehmensdaten offenlegen.
- Stärkung der am wenigsten Privilegierten: Priorisieren Sie die Zugriffsbeschränkung anhand von Identität, Berechtigungen, Datensensibilität, Aktivität, Eigentumsverhältnissen und Geschäftskontext.
- Überwachung der Aktivitäten mit sensiblen Daten: Fügen Sie den Aktivitätskontext hinzu, um zu verstehen, wie Identitäten mit sensiblen Informationen interagieren.
- Laufwerksbereinigung: Risikoreiche Zugriffe reduzieren, Verantwortlichkeiten zuweisen, Richtlinien durchsetzen und Korrekturmaßnahmen koordinieren.
Ziel ist es nicht nur zu wissen, dass ein Beauftragter über die erforderliche Berechtigung verfügt. Vielmehr geht es darum zu verstehen, woher diese Berechtigung stammt, welche sensiblen Daten dadurch offengelegt werden, ob der Zugriff dem beabsichtigten Zweck entspricht, was der Beauftragte tatsächlich getan hat und was geändert werden sollte, wenn das Risiko zu hoch ist.
Die Punkte zwischen Daten und KI verbinden
Wissen, wessen Autorität die KI nutzt
Erfahren Sie, wie BigID KI-Agenten, Benutzer, Maschinenidentitäten, vererbte Berechtigungen, sensible Daten, Aktivitäten, Eigentumsverhältnisse und Fehlerbehebung im gesamten KI-Umfeld von Unternehmen miteinander verbindet.
Häufig gestellte Fragen zur Delegierung von KI-Agenten
Was ist KI-Agentendelegierung?
Die Delegierung von KI-Agentenrechten erfolgt, wenn ein KI-Agent von einer anderen Identität oder einem anderen System Berechtigungen erhält oder ausübt, um auf Ressourcen zuzugreifen, Aufgaben auszuführen, Tools aufzurufen oder Aktionen durchzuführen. Die Berechtigungen können von einem Benutzer, einer Anwendung, einem Dienstkonto, einer Maschinenidentität oder einem anderen KI-Agenten stammen.
Was versteht man unter delegierter Autorität in der KI?
Delegierte Befugnisse bezeichnen die Berechtigungen oder Entscheidungsbefugnisse, die ein KI-Agent im Namen einer anderen Person ausübt. Eine sichere Delegierung sollte die Beziehung zwischen dem ursprünglichen Auftraggeber, dem handelnden Agenten, dem zulässigen Handlungsspielraum und der daraus resultierenden Aktion wahren.
Worin besteht der Unterschied zwischen Authentifizierung, Autorisierung und Delegierung für KI-Agenten?
Die Authentifizierung legt fest, wer oder was die KI-Identität ist. Die Autorisierung bestimmt, worauf diese Identität zugreifen oder was sie tun darf. Die Delegierung bestimmt, wessen Befugnisse der KI-Agent bei der Ausführung einer Aufgabe oder beim Zugriff auf eine Ressource ausübt.
Kann ein KI-Agent im Namen eines Benutzers handeln?
Ja. Ein KI-Agent kann delegierten Benutzerzugriff nutzen, sofern die Architektur und die Identitätsplattform dies unterstützen. In diesem Modell können nachgelagerte Systeme den Zugriff gemäß dem autorisierten Bereich des angemeldeten Benutzers durchsetzen, anstatt dem Agenten uneingeschränkten Anwendungszugriff zu gewähren.
Können KI-Agenten Aufgaben an andere KI-Agenten delegieren?
Ja. Multiagentensysteme ermöglichen es einem Agenten, Aufgaben an einen anderen Agenten zu delegieren. Organisationen sollten festlegen, welche Agenten Aufgaben delegieren dürfen, welche Identität und Berechtigung mit der Aufgabe verbunden sind, welcher Kontext geteilt werden kann und welche Folgeaktionen eine zusätzliche Genehmigung erfordern.
Worin besteht der Unterschied zwischen delegiertem Zugriff und App-spezifischem Zugriff?
Delegierter Zugriff ermöglicht es einer Anwendung oder einem Agenten, im Namen eines angemeldeten Benutzers innerhalb der entsprechenden delegierten Berechtigungen zu handeln. Der reine App-Zugriff ermöglicht es der Anwendung oder dem Agenten, mit eigener Identität und eigenen Anwendungsberechtigungen zu agieren, ohne auf den Zugriff eines angemeldeten Benutzers angewiesen zu sein.
Was versteht man unter Autoritätserweiterung in einem KI-Workflow?
Eine Ausweitung der Zugriffsrechte liegt vor, wenn ein nachgelagerter Agent, eine Anwendung, ein Dienstkonto, ein Tool oder eine andere Identität weitergehende Zugriffsrechte gewährt, als die ursprüngliche Aufgabe oder die initiierende Identität zulassen sollte. Dadurch können Daten oder Aktionen außerhalb des beabsichtigten Delegierungsbereichs offengelegt werden.
Warum sind Servicekonten für die Delegierung von KI-Agenten wichtig?
KI-Anwendungen und -Agenten können Dienstkonten nutzen, um auf Unternehmensressourcen zuzugreifen. Verfügen diese Konten über weitreichende oder dauerhafte Berechtigungen, kann ein KI-Workflow Zugriff auf Ressourcen erlangen, die über den ursprünglichen Benutzerbereich oder den vorgesehenen Geschäftszweck des Agenten hinausgehen.
Wie lässt sich das Prinzip der minimalen Privilegien auf die Delegierung von KI-Rechten anwenden?
Das Prinzip der minimalen Berechtigungen verlangt, dass jeder Agent und jeder delegierte Zugriffspfad nur die für die genehmigte Aufgabe notwendigen Datenzugriffe und Aktionen erhält. Organisationen sollten zudem verhindern, dass nachgelagerte Agenten, Anwendungen und Tools die effektive Berechtigung des Workflows erweitern.
Warum ist die Datensensibilität bei der delegierten KI-Zugriffskontrolle relevant?
Zwei delegierte Berechtigungen können ähnlich erscheinen, bergen aber sehr unterschiedliche Risiken. Der Zugriff auf öffentliche Dokumente hat andere Konsequenzen als der Zugriff auf personenbezogene Daten von Kunden, Mitarbeiterdaten, Zugangsdaten, Finanzinformationen, Quellcode oder geistiges Eigentum.
Wie sollten Organisationen die Delegation von KI-Agenten überwachen?
Organisationen sollten die Identität und den Delegationskontext über Arbeitsabläufe hinweg wahren, Aktivitäten mit sensiblen Daten überwachen, Aktionen von Agenten und Tools verfolgen, die Eigentumsrechte wahren und genügend Informationen zur Herkunft aufbewahren, um den Pfad vom ursprünglichen Initiator über jede delegierte Identität bis zur endgültigen Aktion rekonstruieren zu können.
Wie trägt BigID zur Steuerung der Delegation von KI-Agenten bei?
BigID verbindet KI-Agenten, Benutzer, Anwendungen, APIs, Dienstkonten, Maschinenidentitäten, Berechtigungen, Aktivitäten, Eigentumsverhältnisse und sensible Daten, um Organisationen dabei zu helfen, übermäßigen Zugriff zu erkennen, das Prinzip der minimalen Berechtigungen zu stärken, KI-Identitäten und -Agenten zu verwalten, Risiken zu priorisieren und Abhilfemaßnahmen einzuleiten.

