Bittet man ein Sicherheitsteam, die Angriffsfläche einer Anwendung zu kartieren, fühlt sich die Übung vertraut an. Sie identifizieren Endpunkte, APIs, Identitäten, Schwachstellen, Integrationen und Sicherheitsgrenzen. Künstliche Intelligenz (KI) verändert diese Kartierung, da ein KI-System im Unternehmen diese traditionellen Angriffsflächen direkt mit sensiblen Daten, Abrufsystemen, Maschinenidentitäten, Tools und autonomen Aktionen verknüpfen kann.
Eine schädliche Anweisung kann über eine Eingabeaufforderung oder ein vom KI abgerufenes Dokument eingeschleust werden. Ein Angreifer könnte eine API angreifen, einen besonders leistungsfähigen Agenten ausnutzen oder einen Workflow manipulieren, der bereits über legitime Zugriffsrechte verfügt. Ein Benutzer mag zwar über gültige Berechtigungen verfügen, doch die KI, die diese Zugriffsrechte nutzt, erleichtert es erheblich, sensible Informationen zu finden, zu kombinieren und zu verwenden.
Die Angriffsfläche für KI-Systeme in Unternehmen reicht über das Modell hinaus.
Für Verantwortliche im Bereich Datensicherheit stellt sich daraus eine entscheidende Frage: Wie viele Wege verbinden KI mit sensiblen Unternehmensdaten, und was kann passieren, wenn einer dieser Wege manipuliert, missbraucht, kompromittiert wird oder außerhalb seines vorgesehenen Zwecks operiert?
Das ist die Angriffsfläche für KI-Daten.
Angriffsfläche für KI-Daten: Wichtigste Erkenntnisse
- Die Angriffsfläche für KI reicht über Modelle und Eingabeaufforderungen hinaus. Enterprise AI verbindet Identitäten, Berechtigungen, sensible Daten, Abrufsysteme, Speicher, Werkzeuge, Agenten, Anwendungen und Ziele.
- Jeder Weg von KI zu Daten birgt ein potenzielles Sicherheitsrisiko. RAG, Unternehmenssuche, APIs, Konnektoren, Servicekonten, Vektorspeicher, Copiloten und Agenten können Routen zu sensiblen Informationen erstellen.
- Die Behörde ermittelt die potenziellen Auswirkungen. Ein KI-System mit reinem Lesezugriff schafft eine andere Angriffsfläche als ein Agent, der lesen, schreiben, senden, löschen, ausführen oder delegieren kann.
- Die Daten verändern den Schweregrad des Pfades. Eine Verbindung zu öffentlich zugänglicher Produktdokumentation birgt nicht dasselbe potenzielle Risiko wie eine Verbindung zu Kundendatensätzen, Zugangsdaten, Quellcode oder geistigem Eigentum.
- Das Management der Angriffsfläche von KI benötigt Kontext. Sicherheitsteams müssen KI-Assets mit Datensensibilität, Identität, Berechtigung, Zugriff, Aktivität, Tools, Zielen und Geschäftszweck verknüpfen.
- Das Ziel ist nicht einfach nur, mehr KI zu finden. Ziel ist es, unnötige Pfade zwischen KI, sensiblen Daten, privilegierten Aktionen und externen Zielen zu reduzieren.
Was ist die Angriffsfläche für KI-Daten?
Die Angriffsfläche für KI-Daten ist die Gesamtheit der Pfade, Berechtigungen, Schnittstellen, Identitäten, Datenquellen, Abrufsysteme, Werkzeuge und Ziele, über die ein KI-System auf sensible Daten zugreifen oder Einfluss auf deren Verarbeitung nehmen kann.
Sie repräsentiert den datenzentrierten Teil der umfassenderen Angriffsfläche für KI. Diese umfassendere Angriffsfläche kann Modelle, Eingabeaufforderungen, Anwendungen, APIs, Infrastruktur, Bibliotheken, Plugins, Agenten, Tools, Speicher und Komponenten der Lieferkette umfassen. Die KI-Datenangriffsfläche konzentriert sich speziell darauf, wie diese Komponenten KI mit Unternehmensinformationen verbinden und welche Berechtigungen entlang dieser Pfade bestehen.
Sicherheitsteams müssen daher verstehen, auf welche sensiblen Daten KI zugreifen kann, welche Identitäten diesen Zugriff ermöglichen, welche Berechtigungen ihn regeln und welche Abrufsysteme die Daten auffindbar machen. Sie müssen außerdem wissen, welche Tools mit diesen Informationen arbeiten können, welche anderen Agenten sie empfangen können und welche Ziele die Daten erreichen können.
Das Modell ist Teil der Angriffsfläche. Die Datenpfade um das Modell herum bestimmen oft die potenziellen Auswirkungen auf das Geschäft.
Die Daten hinter der KI-Angriffsfläche
Verbinden Sie KI-Systeme mit den sensiblen Daten, Identitäten und Zugriffsrechten, die dahinterstecken.
Entdecken Sie KI-Assets und verknüpfen Sie diese mit sensiblen Daten, Identitäten, Berechtigungen, Eigentumsverhältnissen, Herkunft, Richtlinien und Risiken in unternehmensweiten Umgebungen.
Mehr über die KI-Sicherheit und -Governance von BigID erfahren →
Warum das traditionelle Angriffsflächenmodell für KI unzureichend ist
Das traditionelle Management von Angriffsflächen konzentriert sich stark darauf, wo ein Angreifer eindringen kann. Die KI-Sicherheit muss diese Frage zwar auch stellen, doch die Einstiegspunkte allein reichen nicht aus. Sicherheitsteams müssen außerdem verstehen, welche Daten die KI abrufen kann, wessen Berechtigung sie nutzt, welche sensiblen Daten hinter dieser Berechtigung verborgen sind, welche Anweisungen ihr Verhalten beeinflussen können und welche Aktionen sie anschließend ausführen kann.
Dies ist relevant, da ein KI-System auch ohne das Durchbrechen einer herkömmlichen Sicherheitsbarriere zu schädlichen Ergebnissen beitragen kann. Ein Agent könnte bereits Zugriff auf sensible Daten haben. Ein RAG-System könnte bereits ein häufig geteiltes Dokument indexieren. Ein Copilot könnte mit bestehenden Benutzerberechtigungen arbeiten. Ein verbundenes Tool könnte bereits die Berechtigung haben, Informationen an ein anderes System zu senden.
Eine böswillige Anweisung, eine kompromittierte Identität, ein unsicherer Arbeitsablauf oder ein unbeabsichtigtes KI-Verhalten können dann bereits vorhandene Autorität ausnutzen.
Der Angriff muss nicht immer neue Zugriffsrechte schaffen. Es genügt unter Umständen, bereits vorhandene Zugriffsrechte zu aktivieren.
Angriffsfläche für KI-Daten im Unternehmen
Angriffsfläche für KI-Daten im Unternehmen
Das Modell ist in ein Netzwerk aus Daten, Identität, Zugriff und Aktionen eingebettet.
Jede Verbindung schafft einen weiteren Bereich, in dem übermäßige Autorität, unsichere Anweisungen, unberechtigter Zugriff oder sensible Daten ein Risiko darstellen können.
Anregungen + Inhalte
Benutzer, Dateien, Webseiten, Nachrichten, abgerufene Inhalte
Autorität + Zugang
Benutzer, Gruppen, Dienstkonten, Apps, Maschinenidentitäten
Unternehmenskontext
Dateien, Datenbanken, SaaS, Cloud, Vektordatenbanken, Wissensdatenbanken
Model + Agent
Modelle, Kopiloten, RAG, Speicher, Orchestrierung, Agenten
Werkzeuge + Aktionen
Suchen, schreiben, senden, ändern, ausführen, löschen, aufrufen
Wohin die Daten fließen
Benutzer, Apps, APIs, Agenten, externe Systeme
Die Sicherheit von KI wird zur Datensicherheit, wenn ein Angriffspfad Unternehmensinformationen erreicht.
Was erweitert die Angriffsfläche für KI-Daten?
Die Angriffsfläche für KI-Daten verändert sich, je mehr Informationen, Identitäten, Abrufsysteme, Anwendungen und Tools Unternehmen mit KI verknüpfen. Die Anzahl der Verbindungen ist wichtig, doch die Sensibilität der Daten und die Autorität hinter jeder Verbindung bestimmen, welche Pfade besondere Aufmerksamkeit erfordern.
1. Mehr sensible Daten durch KI
Die Verknüpfung von KI mit Unternehmensdaten macht sie nicht nur nützlich, sondern erweitert auch den potenziellen Erfassungsbereich des Systems. Zu diesen Daten können personenbezogene Daten (PII), Gesundheitsdaten (PHI), Kundeninformationen, Zugangsdaten, Geschäftsgeheimnisse, Finanzdaten, Quellcode, Rechtsdokumente, Mitarbeiterinformationen, geistiges Eigentum, Forschungsergebnisse und Produktpläne gehören.
Das reine Volumen allein bestimmt nicht das Risiko. Die Verknüpfung von zehn Millionen öffentlichen Dokumenten birgt nicht zwangsläufig ein größeres materielles Risiko als die Verknüpfung eines einzigen, hochsensiblen Repositorys für Anmeldeinformationen. Sicherheitsteams müssen die Sensibilität und die geschäftlichen Auswirkungen der Daten hinter jeder KI-Verbindung verstehen.
2. Übermäßiger KI-Zugriff
KI kann über Benutzer, Anwendungen, Gruppen, Dienstkonten, Maschinenidentitäten, Konnektoren, APIs und delegierte Berechtigungen agieren. Weit gefasste, veraltete, vererbte oder unnötige Berechtigungen erhöhen die Anzahl der für KI verfügbaren Zugriffspfade auf sensible Daten.
Das macht übermäßiger KI-Zugriff Es geht um mehr als nur ein Identitätsproblem. Das materielle Risiko hängt davon ab, welche sensiblen Informationen sich hinter dem Zugriff verbergen.
3. Geerbte und delegierte Befugnisse
Die Identität, die einen KI-Workflow ausführt, liefert möglicherweise nicht alle Informationen. Ein Agent kann mit Berechtigungen agieren, die er von einem Benutzer, einer Anwendung, einem Dienst, einer Maschinenidentität oder einem anderen Agenten geerbt oder delegiert hat. Da KI-Workflows zunehmend vernetzt werden, müssen Sicherheitsteams die Berechtigungen entlang des gesamten Pfades nachverfolgen, anstatt einzelne Anmeldeinformationen isoliert zu prüfen.
Wessen Autorität gewährt der KI letztendlich Zugriff auf diese Daten?
Verstehen wie KI-Agenten Berechtigungen erben hilft dabei, Zugriffswege aufzudecken, die eine einfache KI-Inventur möglicherweise übersieht.
4. RAG und Retrieval
RAG ergänzt die Infrastruktur für den Datenabruf zwischen KI und Unternehmensinformationen. Quellspeicher, Indizes, Vektordatenbanken, Abrufidentitäten, Konnektoren, Autorisierungslogik und der zurückgegebene Kontext können alle zur Angriffsfläche für Daten beitragen.
Der entscheidende Unterschied besteht darin, relevante Informationen zu finden und die legitime Befugnis zu haben, diese abzurufen. Die Relevanz bestimmt, welche Daten die KI abrufen kann. Die Autorisierung bestimmt, welche Daten sie abrufen soll.
Organisationen, die Retrieval-Architekturen einsetzen, sollten Folgendes behandeln: RAG-Sicherheit als Teil des umfassenderen Datensicherheitsmodells, nicht nur als Frage der Modellqualität.
5. Eingabeaufforderungen und abgerufene Anweisungen
KI-Systeme können Anweisungen direkt durch Eingabeaufforderungen und indirekt über die abgerufenen oder verarbeiteten Inhalte erhalten. Eine Datei, Webseite, Nachricht oder andere nicht vertrauenswürdige Quelle kann Anweisungen enthalten, die versuchen, das Verhalten der KI zu beeinflussen.
Die Manipulation von Anweisungen gewinnt an Bedeutung, wenn das KI-System auch auf sensible Daten zugreifen oder leistungsstarke Werkzeuge einsetzen kann. Die Anweisung selbst birgt ein gewisses Risiko. Die Autorität und die Daten hinter der KI bestimmen, welche Auswirkungen diese Anweisung haben kann.
Sehen KI-Prompt-Eingabe für einen genaueren Blick auf diesen Angriffspfad.
6. Agenten-Tools
Agenten verändern die Angriffsfläche, da sie die Datenabfrage in Aktionen umsetzen können. Abhängig von ihren zugewiesenen Fähigkeiten können Agenten Repositories durchsuchen, Daten lesen, Nachrichten senden, Datensätze schreiben, Dateien modifizieren, Informationen löschen, Code ausführen, APIs aufrufen oder nachgelagerte Workflows auslösen.
Der Zugriff bestimmt, was ein Agent erreichen kann. Die Werkzeuge bestimmen, was er als Nächstes tun kann.
Ein Agent, der nur genehmigte Dokumente abrufen kann, birgt ein anderes potenzielles Risiko als ein Agent, der auf Kundendaten zugreifen, Datensätze ändern und Informationen an externe Systeme senden kann.
7. Agent-zu-Agent-Verbindungen
Multiagentenarchitekturen fügen Ketten von Identität, Vertrauen, Autorität, Kontext und Datenbewegung hinzu. Ein Agent kann Informationen abrufen und an einen anderen Agenten weitergeben, der mit anderen Berechtigungen, Werkzeugen oder Zielen arbeitet.
Jede Übergabe erfordert eine neue Autorisierungs- und Datensicherheitsentscheidung. Sicherheitsteams müssen nicht nur verstehen, ob Agenten miteinander kommunizieren können, sondern auch, welche Informationen und Berechtigungen mit dieser Kommunikation übertragen werden können.
Sehen KI-Agent-zu-Agent-Sicherheit.
8. Schatten-KI
Nicht autorisierte KI kann Datenpfade erzeugen, die Sicherheitsteams nie absichtlich genehmigt haben. Mitarbeiter übermitteln möglicherweise sensible Informationen an externe KI-Anwendungen oder verbinden KI-Tools ohne angemessene Aufsicht mit Unternehmenssystemen.
Schatten-KI Daher stellt es mehr als nur eine Bestandslücke dar. Es kann eine unbekannte Beziehung zwischen Unternehmensdaten, externer KI, Benutzeridentitäten und Drittanbieterzielen schaffen.
KI-Angriffsfläche vs. KI-Datenexponierung
Die Angriffsfläche von KI und die Offenlegung von KI-Daten hängen eng zusammen, beantworten aber unterschiedliche Sicherheitsfragen. Durch die Trennung dieser beiden Aspekte können Teams besser erkennen, ob sie einen Angriffspfad schließen, die dahinterliegenden sensiblen Daten reduzieren, Berechtigungen einschränken oder auf ein konkretes Ereignis reagieren müssen.
| Konzept | Hauptfrage | Beispiel |
|---|---|---|
| Angriffsfläche für KI | Wo können KI-Systeme angegriffen, manipuliert, kompromittiert oder missbraucht werden? | Eingabeaufforderungen, APIs, Tools, Agenten, Modelle, Speicher, Infrastruktur |
| Angriffsfläche für KI-Daten | Welche Wege verbinden KI mit Unternehmensdaten und datenbezogenen Aktionen? | RAG-Abruf, Dienstkonten, Konnektoren, Vektorspeicher, Agentenwerkzeuge |
| Offenlegung von KI-Daten | Auf welche sensiblen Daten kann KI unter riskanten oder unnötigen Bedingungen zugreifen? | Ein Copilot kann durch übermäßige Berechtigungen an vertrauliche Dateien gelangen. |
| KI-Datenexfiltration | Wurden sensible Daten an einen nicht autorisierten Ort übertragen? | Ein Agent ruft Kundendatensätze ab und sendet sie extern weiter. |
Eine sinnvolle Abfolge ist Angriffsfläche → Offenlegung → Ausnutzung → Auswirkungen. Nicht jeder Angriffspfad führt zu einer erheblichen Gefährdung, und nicht jede Gefährdung wird ausgenutzt. Die Reduzierung unnötiger Angriffspfade und der damit verbundenen Offenlegung sensibler Daten verringert die Möglichkeiten für Angreifer, kompromittierte Identitäten und unsicheres KI-Verhalten, einen wesentlichen Schaden anzurichten.
Wie man die Angriffsfläche für KI-Daten kartiert
Eine aussagekräftige Angriffsflächenkarte muss die gesamte Beziehung zwischen KI und Identität, Autorität, Daten und Aktionen abbilden. Ein KI-Inventar gibt Auskunft darüber, was existiert. Eine Angriffsflächenkarte erklärt, was diese Systeme erreichen können und was durch diese Verbindungen geschehen kann.
Kartiere den Pfad, nicht nur das KI-Asset.
KI → Identität → Autorität → Zugriff → Daten → Werkzeug → Ziel
1. KI
Welches Modell, welcher Copilot, welche Anwendung, welches Ampelsystem oder welcher Agent?
2. Identität
Welche menschliche oder nicht-menschliche Identität dient der Authentifizierung?
3. Autorität
Wer ist für die Durchführung des Workflow-Prozesses zuständig?
4. Zugang
Welche Berechtigungen und Abrufpfade existieren?
5. Daten
Welche sensiblen Informationen verbergen sich dahinter?
6. Werkzeug
Welche Aktionen kann KI ausführen?
7. Reiseziel
Wohin können sensible Daten oder Aktionen gelangen?
Wenn die Sicherheitskräfte diese Kette nicht nachverfolgen können, können sie die Angriffsfläche für KI-Daten nicht vollständig erklären.
Schritt 1: KI-Systeme zur Bestandsaufnahme
Identifizieren Sie genehmigte und nicht genehmigte Modelle, Agenten, Copiloten, KI-Anwendungen, RAG-Systeme, Datensätze, Vektorspeicher, Eingabeaufforderungen, Pipelines und andere KI-Ressourcen. Das Inventar bildet den Ausgangspunkt, nicht die endgültige Risikobewertung.
Schritt 2: KI-Identitäten zuordnen
Ermitteln Sie, welche Benutzer, Anwendungen, Dienstkonten, Maschinenidentitäten, APIs und delegierten Identitäten Zugriff gewähren. Ordnen Sie nach Möglichkeit jede nicht-menschliche Identität einem Inhaber und einem genehmigten Geschäftszweck zu.
Schritt 3: Effektive Berechtigungen zuordnen
Betrachten Sie nicht nur direkte Berechtigungen. Berücksichtigen Sie Gruppen, verschachtelte Gruppen, vererbte Zugriffsrechte, Anwendungsberechtigungen, delegierte Berechtigungen, gemeinsam genutzte Ressourcen, Konnektoren und andere indirekte Wege, die KI Zugriff auf Unternehmensinformationen ermöglichen.
Schritt 4: Zugriff auf sensible Daten herstellen
Ermitteln Sie, welche Bedeutung hinter jeder Berechtigung steckt. Priorisieren Sie den Zugriff auf regulierte, vertrauliche, geschützte, anmelderelevante, persönliche, gesundheitsbezogene, finanzielle und geschäftskritische Informationen, damit das Sicherheitsteam Verbindungen mit geringen Auswirkungen von schwerwiegenden Datenlecks unterscheiden kann.
Schritt 5: Pfade zum Abrufen der Karte
Erfahren Sie, wie KI mithilfe von Unternehmenssuche, RAG-Systemen, Indizes, Vektorspeichern, APIs, Konnektoren und Wissensdatenbanken zugängliche Informationen in nutzbaren Kontext umwandelt. Die Architektur der Datenabfrage kann die Umsetzung bestehender Berechtigungen in die praktische Datenzugänglichkeit erheblich verbessern.
Schritt 6: Kartenfunktionen
Prüfen Sie, ob das KI-System lesen, schreiben, ändern, löschen, senden, teilen, ausführen, aufrufen oder delegieren kann. Erweiterte Funktionen können die potenziellen Auswirkungen erhöhen, insbesondere wenn weitreichende Aktionen mit sensiblen Informationen verknüpft sind.
Schritt 7: Ziele auf der Karte anzeigen
Ermitteln Sie, wohin die abgerufenen Informationen fließen können. Relevante Zielorte können Benutzer, SaaS-Anwendungen, externe APIs, andere Agenten, E-Mail-Systeme, Kollaborationsplattformen und zusätzliche Speicherorte sein.
Schritt 8: Aktivität hinzufügen
Abschließend gilt es, potenzielle Angriffspfade von solchen mit aktiver Nutzung zu unterscheiden. Ermitteln Sie, welche KI-Systeme tatsächlich auf sensible Daten zugreifen, Tools aufrufen, Informationen übertragen oder folgenreiche Aktionen ausführen. Aktivität schafft keine Angriffsfläche, kann Teams aber dabei helfen, zu priorisieren, wo theoretische Risiken bereits operativ geworden sind.
Wie man Angriffspfade für KI-Daten priorisiert
Die bloße Zählung von KI-Verbindungen erzeugt Verwirrung. Ein besserer Ansatz bewertet, was hinter jedem Pfad steht, wie umfassend der Zugriff ist, ob KI die Informationen praktisch abrufen kann, welche Fähigkeiten vorhanden sind und wohin Daten oder Aktionen als Nächstes fließen können.
Priorität des Angriffspfads
Nicht jede KI-Verbindung verdient die gleiche Reaktion
Priorität
Datensensibilität × Zugriffsbreite × Abrufbarkeit × Fähigkeiten × Aktivität × Zielrisiko
Dies ist ein Priorisierungsmodell, keine universelle mathematische Formel. Organisationen sollten Faktoren nach Geschäftsauswirkungen, Architektur, Bedrohungsmodell, Richtlinien und Risikotoleranz gewichten.
Beispielsweise sollte ein ruhender, schreibgeschützter Pfad zu öffentlicher Dokumentation im Allgemeinen eine niedrigere Priorität erhalten als ein aktiv genutzter Agent mit umfassendem Zugriff auf Kundendatensätze und der Berechtigung, Daten extern zu senden.
Kontext wandelt die Erfassung der Angriffsfläche in eine Sicherheitspriorisierung um.
Wie man die Angriffsfläche für KI-Daten verringert
Unternehmen können nicht jede Verbindung zwischen KI und Unternehmensdaten unterbinden, ohne einen Großteil des geschäftlichen Nutzens von KI zu verlieren. Das praktische Ziel besteht darin, unnötige Verbindungen zu eliminieren, übermäßige Berechtigungen zu reduzieren, Funktionen mit hohem Einfluss einzuschränken und Sicherheitsteams Einblick in die verbleibenden Verbindungen zu gewähren.
1. Übermäßigen Zugriff reduzieren
Berechtigungen entfernen, die KI-Systeme für ihren genehmigten Zweck nicht benötigen. Anwenden geringste Privilegien es geht um die sensiblen Daten, die hinter der KI stehen, nicht nur um die KI-Anwendung selbst.
2. Unnötige Daten reduzieren
Veraltete, doppelte, überholte, übermäßig gespeicherte und unnötige Daten erhöhen zwar die Menge an Daten, die KI potenziell abrufen kann, ohne dass dies unbedingt einen geschäftlichen Mehrwert schafft. Datenminimierung Dadurch können sowohl die Offenlegung von Daten als auch die Menge unnötiger Informationen, die sich hinter KI-Zugriffspfaden verbergen, reduziert werden.
3. Sichere RAG- und Abruffunktion
Überprüfen Sie Quellberechtigungen, Indizes, Vektordatenbanken, Abrufidentitäten, Konnektoren und Autorisierungslogik. Der Abruf sollte die Zugriffsgrenzen und den Geschäftszweck der zugrunde liegenden Informationen berücksichtigen.
4. Agentenfunktionen einschränken
Gewähren Sie den Agenten nur die für ihren Zweck erforderlichen Werkzeuge und Aktionen. Trennen Sie, wo immer möglich, den Lesezugriff von Schreib-, Sende-, Änderungs-, Lösch-, Ausführungs- und anderen Folgeberechtigungen und fordern Sie für Aktionen mit weitreichenden Folgen eine stärkere Autorisierung an.
5. Delegierte Befugnisse steuern
Verstehen Sie, wessen Berechtigungen ein Agent ausübt und wie sich die Zuständigkeit ändert, wenn ein Workflow über Benutzer, Anwendungen, Tools und andere Agenten verläuft. Die Delegierung sollte nicht stillschweigend den Zugriff oder die Aktionen eines KI-Systems erweitern.
6. Schutz von Eingabeaufforderungen und KI-Interaktionen
Überwachen Sie sensible Informationen, die in Eingabeaufforderungen eingegeben werden und in Antworten erscheinen, verknüpfen Sie Verstöße mit Benutzern und Richtlinien und untersuchen Sie riskante Interaktionen. KI-gestützte Sicherheitsvorkehrungen fügt einen weiteren Kontrollpunkt für die Informationen hinzu, die in KI-Interaktionen ein- und ausgehen.
7. Steuerziele
Beschränken Sie, wohin KI sensible Informationen nach dem Abruf senden, schreiben oder weitergeben kann. Eine Quelle kann über angemessene Sicherheitsvorkehrungen verfügen, während eine nachgelagerte Anwendung, ein Agent oder ein externer Dienst ein anderes Risikoprofil darstellt.
Eine sichere Quelle garantiert kein sicheres Ziel.
8. Datenaktivität überwachen
Zugriff, Abruf, Bewegung, Weitergabe, Änderung und Löschung werden im Kontext von Daten und Identität verfolgt. Die Aktivitätsanalyse hilft Teams, potenzielle Nutzungspfade zu identifizieren und risikoreiche Kombinationen zu ermitteln, die einer sofortigen Untersuchung bedürfen.
9. Schatten-KI finden
Identifizieren Sie nicht genehmigte KI-Anwendungen und KI-bezogene Datenpfade, die außerhalb der vorgesehenen Governance liegen. Die Ermittlung sollte die KI-Assets mit den sensiblen Informationen und Zugriffsbeziehungen verknüpfen, die ihre Relevanz begründen.
10. Sanierung und Neuzuordnung
Die Reduzierung der Angriffsfläche erfordert einen kontinuierlichen Prozess. Unnötige Zugriffe müssen entfernt, unsichere Freigaben korrigiert, Daten minimiert, Berechtigungen eingeschränkt, Richtlinien durchgesetzt und Risikopfade geschlossen werden. Anschließend muss die Angriffsfläche erneut analysiert werden, um festzustellen, ob die Gefährdung abgenommen hat und ob neue Pfade entstanden sind.
Den Zugang hinter KI verkleinern
Ermitteln Sie die KI-Berechtigungen, die ein sinnvolles Datenrisiko schaffen.
Verknüpfen Sie KI-Identitäten und effektive Berechtigungen direkt mit sensiblen Unternehmensinformationen, priorisieren Sie dann übermäßigen Zugriff und wenden Sie das Prinzip der minimalen Berechtigungen an.
Was sollten CISOs messen?
Die Anzahl der entdeckten KI-Anwendungen gibt Sicherheitsverantwortlichen zwar Aufschluss über das rasante Wachstum dieses Umfelds, erklärt aber nicht die potenziellen Auswirkungen dieser Systeme. Eine fundiertere Messstrategie verfolgt, ob die Zusammenhänge zwischen KI, sensiblen Daten, privilegierten Zugriffsrechten und nachfolgenden Aktionen im Laufe der Zeit abnehmen.
| Metrisch | Was es zeigt |
|---|---|
| KI-Systeme sind mit sensiblen Daten verbunden | Größe der sensiblen KI-Datenoberfläche |
| Hochrisiko-KI-zu-Daten-Pfade | Verbindungen mit dem größten potenziellen Einfluss |
| KI-Identitäten mit übermäßigem Zugriff | Unnötige Befugnisse für KI |
| Sensible Daten, die über das Ampelsystem erreichbar sind | Angriffsfläche im Zusammenhang mit Datenrettung |
| Agenten mit weitreichenden Fähigkeiten | Wo aus dem Abruf Handeln werden kann |
| Nicht genehmigte KI-Datenverbindungen | Schatten-KI und unkontrollierte Pfade |
| Aktive Pfade für sensible Daten | Welche theoretischen Pfade zeigen die tatsächliche Nutzung? |
| Angriffswege eliminiert | Gemessene Reduzierung der unnötigen KI-Reichweite |
| Mittlere Zeit zur Reduzierung risikoreicher Pfade | Wie schnell Entdeckung in Korrekturmaßnahmen umgesetzt wird |
Die aussagekräftigste Kennzahl ist nicht, wie viel KI die Organisation entdeckt hat. Sie ist vielmehr, wie viel unnötigen Zugriff auf sensible Daten und weitreichende Befugnisse die Organisation entfernt hat.
Wie BigID dabei hilft, die Angriffsfläche für KI-Daten zu kartieren und zu reduzieren
BigID verfolgt bei der KI-Sicherheit einen datenorientierten Ansatz. Dies ist wichtig, da die Angriffsfläche eines KI-Systems umso bedeutender wird, je mehr sensible Unternehmensinformationen, übermäßige Berechtigungen, mächtige Identitäten, aktive Abrufpfade und nachgelagerte Aktionen genutzt werden.
Anstatt KI-Erkennung, Datensicherheit, Identität und Behebung von Sicherheitslücken als isolierte Probleme zu behandeln, hilft BigID dabei, die Zusammenhänge zu erkennen, die das wesentliche KI-Datenrisiko bestimmen:
KI → Identität → Autorität → Zugriff → Sensible Daten → Aktivität → Werkzeug → Ziel
BigID unterstützt Organisationen:
- KI entdecken und steuern: Verbinde Modelle, Agenten, Copiloten, Eingabeaufforderungen, Datensätze, Vektorspeicher, Pipelines und Schatten-KI mit sensiblen Daten, Eigentumsverhältnissen, Herkunft, Identitäten, Berechtigungen, Richtlinien und Risiken.
- Sensible Daten entdecken und klassifizieren: Identifizieren Sie regulierte, vertrauliche, geschützte, Berechtigungs-, persönliche, gesundheitsbezogene, finanzielle und geschäftskritische Informationen in unternehmensweiten Umgebungen.
- KI-Zugriff verstehen: Verknüpfen Sie KI-Identitäten und Zugriffspfade mit sensiblen Unternehmensdaten, um festzustellen, wo Berechtigungen unnötige Datenlecks verursachen.
- Übermäßigen Zugriff erkennen: Finden Sie umfassende, veraltete, geerbte, unnötige, externe und risikoreiche Zugriffsrechte im Zusammenhang mit sensiblen Informationen.
- Aktivitätskontext hinzufügen: Verstehen Sie, wie sensible Daten in unterstützten Cloud-, SaaS-, Hybrid-, On-Premises- und KI-vernetzten Umgebungen abgerufen, verschoben, heruntergeladen, geteilt, geändert oder gelöscht werden.
- Schutz von KI-Interaktionen: Überwachen Sie sensible Daten in Eingabeaufforderungen und Antworten und verknüpfen Sie Verstöße mit Benutzern, Konversationen, Richtlinien und Reaktionsabläufen.
- Unnötige Daten reduzieren: Identifizieren Sie veraltete, redundante, doppelte, überholte und übermäßig gespeicherte Informationen, die die für die KI verfügbare Datenmenge unnötig erhöhen.
- Risiko reduzieren: Priorisieren Sie die Offenlegung, reduzieren Sie übermäßigen Zugriff, setzen Sie Richtlinien durch, weisen Sie Verantwortlichkeiten zu, entfernen Sie unnötige Daten und koordinieren Sie die Behebung von Sicherheitslücken in den verschiedenen Unternehmensumgebungen.
Dieser Ansatz verlagert den Fokus von der Zählung von KI-Assets hin zum Verständnis und zur Reduzierung der Pfade, die einen wesentlichen Einfluss auf die Daten haben können.
Der CISO-Test zur Transparenz der Angriffsfläche von KI-Daten
Ein Sicherheitsteam sollte in der Lage sein, von einem entdeckten KI-System zu den damit verbundenen sensiblen Daten, Berechtigungen, Aktivitäten und nachgelagerten Funktionen zu gelangen. Die folgenden Fragen dienen als praktischer Test.
Bereitschaft der Angriffsfläche
Kann Ihr Sicherheitsteam diese Fragen beantworten?
✓ Welche KI-Systeme haben Zugriff auf sensible Unternehmensdaten?
✓ Welche Identitäten stellen diese Verbindungen her?
✓ Wessen Autorität übt jeder KI-Workflow aus?
✓ Welche Berechtigungen sind direkt, vererbt oder delegiert?
✓ Welche RAG-Systeme und Vektorspeicher enthalten sensible Informationen?
✓ Welche KI-Systeme haben übermäßigen Zugriff?
✓ Welche Agenten können Tools schreiben, senden, ändern, löschen oder aufrufen?
✓ Welche KI-Systeme können mit anderen Agenten kommunizieren?
✓ Wohin gelangen sensible Informationen nach der Datenwiederherstellung?
✓ Welche KI-Datenpfade weisen eine aktive Nutzung auf?
✓ Welche nicht genehmigten KI-Datenpfade gibt es?
✓ Können wir beweisen, dass die Angriffsfläche für hochriskante KI-Daten schrumpft?
Kann die Sicherheitsabteilung mehrere dieser Fragen nicht beantworten, verfügt die Organisation möglicherweise über ein KI-Inventar ohne verlässliche Übersicht über die Angriffsfläche ihrer KI-Daten.
Die Angriffsfläche für KI-Daten wird sich ständig verändern
Die Verwaltung der Angriffsfläche von KI kann nicht auf einem statischen Architekturdiagramm basieren. Modelle und Berechtigungen ändern sich, Mitarbeiter verbinden Anwendungen, Agenten erhalten neue Tools, RAG-Systeme fügen Datenquellen hinzu, neue Maschinenidentitäten entstehen und Unternehmensinformationen werden zwischen verschiedenen Repositories verschoben. Multiagenten-Workflows können zusätzliche Verbindungen schaffen, wenn Agenten Kontext austauschen oder sich gegenseitig aufrufen.
Geschäftsprozesse können KI auch neue Befugnisse verleihen, ohne das zugrundeliegende Modell zu verändern. Ein Agent, der zunächst nur lesend fungiert, kann später Berechtigungen erhalten, Datensätze zu aktualisieren, Nachrichten zu senden, APIs aufzurufen oder Workflows auszulösen. Jede dieser Änderungen kann das Verhältnis zwischen KI, sensiblen Daten, Identität, Zugriff und Aktionen beeinflussen.
Die Angriffsfläche für KI-Daten ändert sich immer dann, wenn sich die Beziehung zwischen KI, Identität, Daten, Zugriff oder Handlung ändert.
Sicherheitsteams benötigen daher kontinuierliche Transparenz dieser Beziehungen und nicht nur eine Momentaufnahme. Ziel ist es, relevante Pfade zu identifizieren, nicht benötigte Pfade zu reduzieren und die verbleibenden zu überwachen.
Die Punkte zwischen Daten und KI verbinden
Kartieren Sie die relevanten KI-Pfade
Erfahren Sie, wie BigID KI-Systeme mit sensiblen Daten, Identitäten, Zugriffen, Aktivitäten, Richtlinien und Risiken verbindet, damit Sicherheitsteams wirkungsvolle Wege finden und unnötige Gefährdung reduzieren können.
Häufig gestellte Fragen zu Angriffsflächen für KI-Daten
Was ist die Angriffsfläche für KI-Daten?
Die Angriffsfläche für KI-Daten umfasst die Pfade, Berechtigungen, Schnittstellen, Identitäten, Datenquellen, Abrufsysteme, Werkzeuge und Ziele, über die KI auf sensible Unternehmensdaten zugreifen oder Einfluss auf deren Verarbeitung nehmen kann.
Worin besteht der Unterschied zwischen der Angriffsfläche für KI-Daten und der Angriffsfläche für KI-Daten?
Die umfassendere Angriffsfläche für KI umfasst Modelle, Anwendungen, Infrastruktur, Eingabeaufforderungen, APIs, Agenten, Tools, Komponenten der Lieferkette und weitere potenzielle Angriffspunkte. Die Angriffsfläche für KI-Daten konzentriert sich auf die Pfade, die diese Systeme mit Unternehmensdaten und datenbezogenen Aktionen verbinden.
Warum vergrößert KI die Angriffsfläche für Unternehmen?
KI-Systeme verbinden sich zunehmend mit Unternehmensdaten, Identitäten, Anwendungen, APIs, Abrufsystemen, Tools und anderen Akteuren. Jede dieser Verbindungen kann einen weiteren Weg eröffnen, über den sensible Informationen oder privilegierte Aktionen zugänglich werden.
Wie erweitert RAG die Angriffsfläche für KI-Daten?
RAG fügt Quellcode-Repositories, Indizes, Vektordatenbanken, Konnektoren, Abrufidentitäten, Autorisierungslogik und Rückgabekontext zwischen dem Modell und den Unternehmensdaten hinzu. Diese Komponenten schaffen zusätzliche Pfade, die Sicherheitsteams verstehen und kontrollieren müssen.
Wie erweitern KI-Agenten die Angriffsfläche?
KI-Agenten können Datenzugriff mit Autonomie und Werkzeugnutzung kombinieren. Ein Agent kann sensible Informationen abrufen und diese anschließend schreiben, ändern, senden, löschen, APIs aufrufen oder mit anderen Agenten kommunizieren, wodurch die potenziellen Auswirkungen eines kompromittierten oder missbrauchten Systems erhöht werden.
Wie beeinflussen Berechtigungen die Angriffsfläche für KI-Daten?
Berechtigungen bestimmen, auf welche Daten und Systeme KI zugreifen und welche Aktionen sie ausführen kann. Weit gefasste, veraltete, vererbte oder unnötige Berechtigungen können die Anzahl und Schwere möglicher Angriffe erhöhen.
Worin besteht der Unterschied zwischen der Angriffsfläche für KI-Daten und der Offenlegung von KI-Daten?
Die Angriffsfläche für KI-Daten beschreibt die Wege, über die KI auf Unternehmensdaten oder datenbezogene Aktionen zugreifen kann. Die Offenlegung von KI-Daten beschreibt den Zustand, in dem sensible Daten unter ungeeigneten oder unnötigen Umständen zugänglich werden. Angriffswege können eine Offenlegung bewirken, die Konzepte messen jedoch unterschiedliche Aspekte des Risikos.
Wie kartiert man die Angriffsfläche für KI-Daten?
Inventarisierungs-KI-Systeme erfassen menschliche und nicht-menschliche Identitäten, bestimmen effektive Berechtigungen und delegierte Befugnisse, verknüpfen den Zugriff auf sensible Daten, kartieren Abrufpfade und -werkzeuge, identifizieren mögliche Ziele und fügen einen Aktivitätskontext hinzu, um zu ermitteln, welche Pfade die tatsächliche Nutzung widerspiegeln.
Wie können Organisationen die Angriffsfläche für KI-Daten verringern?
Organisationen können übermäßigen Zugriff reduzieren, unnötige Daten minimieren, den RAG-Abruf sichern, Agentenfunktionen einschränken, delegierte Berechtigungen verwalten, KI-Interaktionen schützen, Ziele kontrollieren, Aktivitäten überwachen, Schatten-KI aufdecken und risikoreiche Pfade kontinuierlich beheben.
Welche Kennzahlen zur Angriffsfläche von KI-Systemen sollten CISOs überwachen?
Nützliche Kennzahlen sind beispielsweise KI-Systeme, die mit sensiblen Daten verbunden sind, risikoreiche KI-Datenpfade, KI-Identitäten mit übermäßigem Zugriff, sensible Daten, die über RAG erreichbar sind, Agenten mit weitreichenden Fähigkeiten, nicht genehmigte KI-Datenverbindungen, aktiv genutzte sensible Datenpfade, die Zeit bis zur Behebung des Problems und die Anzahl der eliminierten Angriffspfade.
Wie trägt BigID dazu bei, die Angriffsfläche für KI-Daten zu verringern?
BigID verknüpft KI-Systeme mit sensiblen Daten, Identitäten, Berechtigungen, Aktivitäten, Eigentumsverhältnissen, Herkunft, Richtlinien und Risiken. Dies unterstützt Unternehmen dabei, wichtige KI-Datenpfade zu identifizieren, übermäßigen Zugriff und Datenlecks zu priorisieren, unnötige Daten zu reduzieren, KI-Interaktionen zu schützen und Gegenmaßnahmen zu koordinieren.
Autor
