Zum Inhalt springen

KI-Sicherheit und -Governance

Was ist Agentische KI?

Agentische KI bezeichnet Systeme der künstlichen Intelligenz, die Ziele interpretieren, Aufgaben planen, Entscheidungen treffen, Werkzeuge einsetzen, auf Daten zugreifen und mit begrenztem menschlichem Eingriff Maßnahmen ergreifen können.

Erfahren Sie mehr über KI-Sicherheit und -Governance Definition ansehen
Plant und erledigt mehrstufige Aufgaben Nutzt Tools, APIs und Unternehmensdaten Funktioniert mit unterschiedlicher Autonomie

Kurzdefinition

Agentische KI auf einen Blick

Agentische KI kombiniert logisches Denken, Planung, Gedächtnis, Werkzeugnutzung und autonomes Handeln, um definierte Ziele zu verfolgen.

01

Hauptzweck

Komplexe Ziele durch autonome oder teilautonome Aktionen erreichen.

02

Kernkompetenzen

Logisches Denken, Planung, Gedächtnis, Werkzeuggebrauch, Entscheidungsfindung und Ausführung.

03

Gemeinsame Eingaben

Nutzerziele, Unternehmensdaten, Richtlinien, Anwendungskontext und Systemrückmeldungen.

04

Gemeinsame Verbindungen

APIs, Datenbanken, SaaS-Plattformen, Geschäftsanwendungen und andere KI-Agenten.

05

Wichtigste Risiken

Übermäßiger Zugriff, unbeabsichtigte Aktionen, Datenleckage und mangelnde Aufsicht.

06

Verwandte Konzepte

Generative KI, KI-Agenten, Multiagentensysteme, KI-Governance und KI-Sicherheit.

Autonomer Entscheidungszyklus

Wie agentische KI funktioniert

Agentische KI arbeitet typischerweise durch einen kontinuierlichen Zyklus aus Interpretation, Planung, Ausführung, Auswertung und Anpassung.

01
Objektiv

Ein Tor erzielen

Der Agent erhält ein Ziel, eine Benutzeranfrage, ein Ereignis oder ein Geschäftsergebnis, das er verfolgen soll.

02
Argumentation

Kontext interpretieren

Das System wertet verfügbare Informationen, Einschränkungen, Berechtigungen, Richtlinien und den relevanten historischen Kontext aus.

03
Planung

Erstellen Sie einen Aufgabenplan

Der Agent zerlegt das Ziel in einzelne Aktionen, ermittelt Abhängigkeiten und wählt eine geeignete Reihenfolge aus.

04
Werkzeugverwendung

Zugriff auf Daten und Systeme

Der Agent fragt Daten ab, ruft APIs auf, nutzt Anwendungen, ruft Modelle auf oder delegiert Aufgaben an andere Agenten.

05
Ausführung

Maßnahmen ergreifen

Der Agent führt genehmigte Aktionen aus, wie z. B. das Aktualisieren eines Datensatzes, das Generieren eines Berichts, das Senden einer Anfrage oder das Initiieren eines Workflows.

06
Anpassung

Bewerten und anpassen

Der Agent prüft das Ergebnis, erkennt Fehler oder unvollständige Resultate und passt seinen Plan gegebenenfalls an.

Auswirkungen auf das Unternehmen

Warum agentische KI wichtig ist

Agentische KI kann komplexe Arbeitsabläufe automatisieren und Entscheidungen beschleunigen, doch ihr Zugriff und ihre Autonomie bergen auch neue Sicherheits- und Governance-Risiken.

01

Komplexe Arbeitsabläufe automatisieren

Agenten können mehrere Schritte, Anwendungen und Entscheidungen koordinieren, die zuvor manuellen Aufwand erforderten.

02

Verbesserung der Betriebsgeschwindigkeit

Autonome Agenten können Informationen schneller analysieren und Aktionen schneller einleiten als sequentielle menschliche Arbeitsabläufe.

03

Erweiterung der KI-Angriffsfläche

Agenten können auf sensible Daten, Tools, APIs, Anmeldeinformationen und Systeme zugreifen, wodurch die Auswirkungen übermäßiger Berechtigungen oder des Missbrauchs verstärkt werden.

04

Erfordert kontinuierliche Steuerung

Organisationen benötigen Einblick in die Identitäten ihrer Agenten, deren Datenzugriff, Verhalten, Entscheidungen, Richtlinien und nachgelagerte Aktionen.

Leitfaden zur Umsetzung

Agentic AI-Sicherheit – Bewährte Verfahren

Sichern Sie agentenbasierte KI, indem Sie die Daten, Identitäten, Berechtigungen, Werkzeuge und Aktionen kontrollieren, die Agenten nutzen können.

01

Führen Sie ein Inventar der KI-Assets

Identifizieren Sie Akteure, Modelle, Datensätze, Pipelines, Tools, Verantwortliche und Geschäftszwecke im gesamten Unternehmen.

02

Zugängliche Daten entdecken und klassifizieren

Machen Sie sich klar, auf welche sensiblen, regulierten, vertraulichen oder geschäftskritischen Daten jeder Agent zugreifen kann.

03

Zugriff nach dem Prinzip der minimalen Berechtigungen durchsetzen

Die Berechtigungen der Agenten sind auf die minimal erforderlichen Daten, Anwendungen, APIs und Aktionen für einen genehmigten Zweck zu beschränken.

04

Menschliche Aufsicht auf risikoreiche Maßnahmen anwenden

Bei destruktiven, sensiblen, finanziellen, rechtlichen oder irreversiblen Handlungen sind Genehmigungen oder eine Eskalation erforderlich.

05

Agentenverhalten kontinuierlich überwachen

Ungewöhnliche Datenzugriffe, Richtlinienverstöße, übermäßige Werkzeugnutzung, unerwartete Aktionen und Veränderungen im Verhalten von Agenten erkennen.

Häufig gestellte Fragen

Agentic AI – Häufig gestellte Fragen

Erfahren Sie mehr über häufig gestellte Fragen zu autonomen KI-Agenten, Sicherheit, Governance, Datenzugriff und Unternehmenseinführung.

Was ist agentenbasierte KI?

Agentische KI bezeichnet KI-Systeme, die Ziele interpretieren, Aufgaben planen, Entscheidungen treffen, Werkzeuge einsetzen, auf Daten zugreifen und mit einem gewissen Grad an Autonomie Maßnahmen ergreifen können.

Worin unterscheidet sich agentenbasierte KI von generativer KI?

Generative KI erstellt Inhalte primär als Reaktion auf Eingabeaufforderungen. Agentische KI kann generative Modelle nutzen und gleichzeitig planen, Werkzeuge auswählen, Aktionen ausführen und ihren Ansatz anpassen.

Was ist ein KI-Agent?

Ein KI-Agent ist eine softwarebasierte Entität, die den Kontext wahrnimmt, ein Ziel bewertet, Entscheidungen trifft und unter Verwendung verfügbarer Modelle, Werkzeuge, Daten und Berechtigungen Maßnahmen ergreift.

Was sind gängige Anwendungsfälle für agentenbasierte KI?

Zu den typischen Anwendungsbereichen gehören Kundendienstautomatisierung, Softwareentwicklung, Sicherheitsbetrieb, Forschung, Workflow-Management, Analytik, Beschaffung und IT-Support.

Was sind die Hauptrisiken von agentenbasierter KI?

Zu den Risiken gehören die Offenlegung sensibler Daten, übermäßige Berechtigungen, unautorisierte Handlungen, die Verwendung unsicherer Tools, die prompte Manipulation, ungenaue Entscheidungen und eine eingeschränkte Verantwortlichkeit.

Wie greift agentenbasierte KI auf Unternehmensdaten zu?

Agenten können über APIs, Datenbanken, Suchsysteme, SaaS-Anwendungen, Vektorspeicher, Plugins, Konnektoren oder andere autorisierte Tools auf Unternehmensdaten zugreifen.

Wie können Organisationen agentenbasierte KI absichern?

Organisationen sollten Agenten inventarisieren, zugängliche Daten klassifizieren, das Prinzip der minimalen Berechtigungen durchsetzen, Richtlinienleitplanken anwenden, das Verhalten überwachen und für risikoreiche Aktionen eine menschliche Genehmigung verlangen.

Benötigt agentenbasierte KI menschliche Aufsicht?

Der erforderliche Überwachungsgrad hängt von der Autonomie des Agenten, seinem Datenzugriff, den potenziellen Auswirkungen und dem Anwendungsfall ab. Aktionen mit hohem Risiko sollten Genehmigungen, Eskalationen oder eine manuelle Überprüfung beinhalten.

Sichere autonome KI

Datenverwaltung Ihre KI-Agenten mit Energie versorgen

BigID hilft Organisationen dabei, KI-Assets zu entdecken, zu verstehen, auf welche Datenagenten zugreifen können, übermäßige Berechtigungen zu identifizieren, Risiken zu überwachen und richtlinienbasierte Kontrollen in KI-Umgebungen anzuwenden.

Demo anfordern Erfahren Sie mehr über KI-Sicherheit und -Governance

Führend in der Industrie