Was ist Schatten-KI? Risiken, Beispiele und wie man sie reguliert

Die Einführung von KI folgt selten einem einheitlichen, zentral gesteuerten Weg.

Ein Mitarbeiter testet einen neuen KI-Assistenten. Ein Entwickler verbindet einen Codierungsagenten mit einem Repository. Ein Business-Team aktiviert eine KI-Funktion in einer SaaS-Anwendung. Jemand erstellt einen Abruf-Workflow für Unternehmensdokumente.

Die Sicherheits- und Governance-Teams werden davon möglicherweise nie etwas zu Gesicht bekommen.

Das heißt Schatten-KI.

Schatten-KI umfasst KI-Tools, Modelle, Agenten, Copiloten, Eingabeaufforderungen, Datensätze, Anwendungen und Arbeitsabläufe, die außerhalb genehmigter Governance-, Sicherheits- oder Aufsichtsprozesse operieren.

Das größte Problem ist nicht einfach nur, dass eine Organisation die Technologie nicht genehmigt hat.

Das eigentliche Risiko beginnt, wenn unkontrollierte KI mit Unternehmensdaten interagiert, Zugriffsrechte erbt, neue Ergebnisse erzeugt oder Aktionen ohne angemessene Transparenz und Kontrolle durchführt.

Die moderne Steuerung von Schatten-KI muss daher mehr beantworten als nur die Frage: “Welche KI-Tools nutzen die Mitarbeiter?”

Organisationen müssen außerdem wissen:

• Welche KI-Systeme gibt es?
• Wem gehören sie oder wem werden sie benutzt?
• Welche sensiblen Daten verarbeiten sie?
• Auf welche Systeme können sie zugreifen?
• Welche Berechtigungen haben sie geerbt?
• Welche Aktionen können sie ausführen?
• Welche KI-Aktivität verstößt gegen die Richtlinien?
• Wo birgt Schatten-KI das größte Geschäftsrisiko?

Was ist Schatten-KI?

Unter Schatten-KI versteht man KI-Technologie oder KI-Nutzung, die außerhalb der genehmigten Governance-, Sicherheits-, Risiko- oder Aufsichtsprozesse einer Organisation stattfindet.

Beispiele hierfür sind:

• Mitarbeiter, die nicht genehmigte generative KI-Anwendungen verwenden
• Browsererweiterungen mit integrierten KI-Funktionen
• Entwickler, die nicht verwaltete Modelle einsetzen
• Teams aktivieren Copiloten innerhalb von SaaS-Anwendungen
• KI-Agenten wurden ohne zentrale Überprüfung erstellt.
• Nicht registrierte Eingabeaufforderungen, Datensätze, Vektorspeicher oder Abruf-Workflows
• KI-Anwendungen, die ohne ordnungsgemäße Zugriffsprüfung mit Unternehmensdaten verbunden sind.
• Experimentelle KI-Projekte, die von der Testphase in den Geschäftseinsatz übergehen

Eine Organisation muss ein Tool nicht verbieten, damit dadurch das Risiko von Schatten-KI entsteht.

Eine genehmigte KI-Plattform kann dennoch Governance-Lücken erzeugen, wenn Teams neue Agenten einsetzen, neue Daten verbinden, Berechtigungen erweitern oder Arbeitsabläufe erstellen, die für die Sicherheits- und Governance-Teams nicht sichtbar sind.

Das macht Shadow AI im Grunde zu einem Sichtbarkeits-, Daten-, Zugriffs- und Governance-Probleme.

Schatten-KI vs. Schatten-IT: Was ist der Unterschied?

Schatten-KI entsteht aus derselben organisatorischen Herausforderung wie Schattendaten und Schatten-IT: Menschen übernehmen Technologien schneller, als zentrale Teams sie steuern können.

Doch KI verändert das Risiko.

Traditionelle Schatten-IT führt typischerweise zu unkontrollierten Anwendungen, Infrastrukturen und Datenspeichern.

Schatten-KI kann aktiv Unternehmensinformationen abrufen, verarbeiten, transformieren, daraus Schlüsse ziehen und darauf reagieren.

Was sind Beispiele für Schatten-KI?

Schatten-KI kann in nahezu allen Geschäftsbereichen auftreten.

Ein Mitarbeiter lädt Kundendaten in einen KI-Assistenten hoch.

Ein Vertriebsmitarbeiter bittet einen KI-Assistenten, Kundennotizen zusammenzufassen und eine Tabelle hochzuladen, die Namen, Kontaktinformationen, Kontohistorie und Details zum Geschäft enthält.

Der Produktivitätsgewinn mag harmlos erscheinen.

Das Sicherheitsteam muss nun herausfinden, welche Daten die kontrollierte Umgebung verlassen haben, welche Richtlinien gelten und ob die Nutzungsbedingungen und Sicherheitskontrollen des Tools den Anforderungen der Organisation entsprechen.

Ein Entwickler verbindet ein KI-Codierungstool mit einem Repository

Ein Entwickler verbindet einen KI-Programmierassistenten mit einem Repository, um Probleme in einer Anwendung zu beheben.

Das Repository kann auch Anmeldeinformationen, Geheimnisse, interne URLs, proprietären Code, Infrastrukturdetails oder Kundenkonfigurationsdaten enthalten.

Die Sicherheitsfrage beschränkt sich nicht allein darauf, ob die Organisation das Codierungstool genehmigt hat.

Teams müssen wissen welche Datenspeicher erreicht werden können und welche sensiblen Daten darin enthalten sind.

Ein Business-Team entwickelt einen KI-Agenten

Eine Geschäftseinheit entwickelt einen KI-Agenten zur Automatisierung eines routinemäßigen Arbeitsablaufs.

Der Agent verbindet sich mit einer Anwendung, ruft eine API auf und verwendet ein Dienstkonto, um Daten abzurufen.

Niemand hat dem Agenten absichtlich umfassenden Datenbankzugriff gewährt.

Aber das Servicekonto hatte es bereits.

Der KI-Agent kann nun Zugriffsrechte erlangen, die weit über seinen eigentlichen Zweck hinausgehen.

Eine zugelassene SaaS-Plattform fügt KI-Funktionen hinzu

Schatten-KI wird nicht immer von einem neuen Anbieter bereitgestellt.

Ein zugelassener SaaS-Anbieter kann eine Copilot- oder eingebettete KI-Funktion einführen, die von den Mitarbeitern aktiviert wird, bevor die Governance-Teams die neuen Datenflüsse, Berechtigungen, Eingabeaufforderungen oder Ausgaben überprüfen.

Der Antrag bleibt genehmigt.

Die Nutzung von KI ist möglicherweise nicht der Fall.

Warum stellt Schatten-KI ein Sicherheitsrisiko dar?

Schatten-KI birgt Risiken, weil Organisationen KI-Aktivitäten, die sie nicht einsehen können, nicht konsequent schützen, steuern oder überprüfen können.

Offenlegung sensibler Daten

Mitarbeiter oder KI-Workflows können einreichen sensible Daten für KI-Systeme, die nicht der von der Organisation vorgeschriebenen Sicherheits-, Datenschutz- oder Compliance-Prüfung unterzogen wurden.

Eine Exposition kann Folgendes umfassen:

• PII
• PHI
• Finanzunterlagen
• Kundeninformationen
• Quellcode
• Zugangsdaten und Geheimnisse
• Geistiges Eigentum
• Verträge
• Vertrauliche Geschäftsinformationen

Unbekannter KI-Zugriff

Moderne KI-Systeme können über Anwendungen, APIs, Dienstkonten, Maschinenidentitäten, Benutzerrollen und delegierte Berechtigungen auf Unternehmensdaten zugreifen.

Das birgt ein Risiko, selbst wenn Mitarbeiter niemals manuell Informationen in eine Eingabeaufforderung kopieren.

Eine KI-Anwendung kann über ihre verbundenen Systeme sensible Informationen abrufen.

AI Access Governance Hilft Organisationen dabei zu verstehen, wo diese Zugriffswege ein Sicherheitsrisiko darstellen.

Übermäßige Berechtigungen

KI-Systeme erhalten möglicherweise mehr Zugriffsrechte, als für ihre beabsichtigte Funktion erforderlich sind.

Ein Supportmitarbeiter, der beispielsweise nur einen Kundendatensatz benötigt, kann die Berechtigung erben, eine gesamte Kundendatenbank zu durchsuchen oder zu exportieren.

Dadurch wird übermäßiger Zugriff zu einer KI-gesteuerten Datenoffenlegung.

Unbekannte Eigentumsverhältnisse

Teams können einen KI-Agenten oder ein KI-Modell entdecken, ohne zu wissen, wer es erstellt hat, wer den Datenzugriff genehmigt hat oder wer für die Behebung von Mängeln zuständig ist.

Ohne verantwortliche Eigentümer geraten Governance-Entscheidungen ins Stocken.

Compliance- und Richtlinienlücken

Schatten-KI kann interne Richtlinien für Datennutzung, Zugriff, Aufbewahrung, Datenschutz, Modellprüfung, Drittparteienrisiken und KI-Governance umgehen.

Organisationen könnten auch die Beweise verlieren, die sie benötigen, um nachzuweisen, wie KI regulierte oder sensible Informationen nutzt.

Unüberwachte KI-Aktivität

Das Risiko von KI verändert sich nach der Implementierung.

Agenten erhalten neue Tools. Anwendungen werden integriert. Daten ändern sich. Berechtigungen werden erweitert. Teams erstellen neue Eingabeaufforderungen und Arbeitsabläufe.

Eine Genehmigung zu einem bestimmten Zeitpunkt kann nicht alle zukünftigen Änderungen berücksichtigen.

Warum das Blockieren von Schatten-KI nicht ausreicht

Durch das Blockieren bekanntermaßen nicht genehmigter Anträge kann ein gewisses Risiko verringert werden.

Es löst das Problem nicht vollständig.

Organisationen müssen außerdem Folgendes berücksichtigen:

• Genehmigte Anwendungen, die KI-Funktionen hinzufügen
• Intern entwickelte KI-Agenten
• Neue API-Integrationen
• Nicht verwaltete Modelle und Datensätze
• KI-Zugriff, der durch bestehende Identitäten übernommen wird
• Aufforderungen, die sensible Informationen preisgeben
• RAG-Workflows, die mit sensiblen Repositories verbunden sind

Ein binäres Genehmigungs- versus Ablehnungsmodell kann auch Unterschiede im Risiko verschleiern.

Betrachten wir zwei Szenarien:

• Ein nicht genehmigtes KI-Tool ohne Verbindung zu Unternehmensdaten
• Ein zugelassener KI-Agent mit übermäßigem Zugriff auf Kunden- und Finanzdaten

Das zweite Szenario könnte zu einer deutlich höheren Gefährdung führen.

Deshalb müssen Organisationen Schatten-KI auf der Grundlage folgender Kriterien bewerten: Datensensibilität, Zugriff, Aktivitäten, Eigentumsverhältnisse, Zweck und geschäftliche Auswirkungen.

Wie man Schatten-KI erkennt

Organisationen benötigen Erkenntnisse, die über Mitarbeiterfragebögen und genehmigte Anwendungsverzeichnisse hinausgehen.

Ein leistungsstarkes Programm zur Erkennung von Schatten-KI sollte Folgendes berücksichtigen:

• KI-Anwendungen und -Dienste
• Modelle und Modelldateien
• KI-Agenten und Kopiloten
• Aufforderungen
• KI-bezogene Datensätze
• Vektordatenbanken
• RAG-Workflows
• KI-APIs und -Integrationen
• KI-Nutzung in Verbindung mit Code-Repositories
• KI-bezogene Identitäten und Zugriffspfade

Entdeckung von Schatten-KI bietet Organisationen einen Ausgangspunkt.

Die Entdeckung wird jedoch dann nützlicher, wenn Teams KI-Ressourcen mit den dahinterliegenden Daten und Zugriffsrechten verknüpfen.

Wie man das Risiko von Schatten-KI managen und reduzieren kann

Die Steuerung von Schatten-KI sollte Teams dabei helfen, von der Erkenntnis zur Handlung zu gelangen.

1. KI kontinuierlich entdecken

Transparenz hinsichtlich genehmigter und nicht genehmigter KI-Tools, -Modelle, -Agenten, -Datensätze, -Prompts und -Workflows gewährleisten.

Verlassen Sie sich nicht ausschließlich auf Selbstauskünfte.

2. Identifizieren Sie sensible Daten, die von der KI verwendet werden.

Verwenden Entdeckung und Klassifizierung von Daten um festzustellen, ob KI mit regulierten, vertraulichen, firmeneigenen, kundenbezogenen, mitarbeiterbezogenen oder anderen risikoreichen Informationen interagiert.

Dies unterscheidet risikoarme Experimente von KI-Anwendungen, die sofortige Aufmerksamkeit erfordern.

3. Karten-KI-Zugriff

Ermitteln Sie, wie KI auf Unternehmensdaten zugreift.

Karte:

• Benutzer
• Gruppen
• Anwendungen
• APIs
• Servicekonten
• Maschinenidentitäten
• Rollen
• Delegierte Berechtigungen

Verbinden Sie anschließend diese Zugriffspfade mit den dahinterliegenden sensiblen Daten.

4. Eigentumsverhältnisse feststellen

Weisen Sie KI-Anwendungen, Agenten, Modellen, Datensätzen und Arbeitsabläufen verantwortliche Eigentümer zu.

Eigentümer sollten den geschäftlichen Zweck, den Datenzugriff, die Richtlinienanforderungen und die Verantwortlichkeiten für die Behebung von Problemen im Zusammenhang mit dem KI-System verstehen.

5. Priorisierung von Schatten-KI nach Risiko

Nicht jede KI-Erkenntnis verdient die gleiche Reaktion.

Priorisieren Sie anhand folgender Kriterien:

• Datensensibilität
• Zugriffsebene
• KI-Aktivität
• Eigentum
• Richtlinienverstöße
• Compliance-Risiko
• Auswirkungen auf das Geschäft

Dies hilft Teams dabei, harmlose Experimente von der Nutzung von KI zu unterscheiden, die kritische Informationen offenlegt.

6. Prinzip der minimalen Berechtigungen anwenden

Künstliche Intelligenz sollte nur den Zugriff erhalten, der für ihren vorgesehenen Zweck erforderlich ist.

Überprüfen Sie die vererbten Berechtigungen und reduzieren Sie sie. übermäßiger Zugriff wo KI auf mehr Daten zugreifen oder mehr Aktionen ausführen kann als nötig.

7. KI-Richtlinien durchsetzen

Definieren Sie klare Richtlinien für:

• Genehmigte KI-Nutzung
• Sensible Hinweise
• Zugriff auf KI-Daten
• Modell- und Agentenbesitz
• Drittanbieter-KI
• Datenaufbewahrung
• KI-generierte Ausgaben
• Sanierung

Richtlinien benötigen technische Durchsetzung und Beweise, nicht nur Dokumentation.

8. Veränderungen überwachen

Die Schatten-KI bleibt nicht statisch.

Überwachen Sie Veränderungen bei der Nutzung von KI, Daten, Berechtigungen, Identitäten, Aktivitäten, Integrationen und Eigentumsverhältnissen im Laufe der Zeit.

Kontinuierliche Überwachung Hilft Teams dabei, neue Schwachstellen zu erkennen, bevor sie zu einem weiteren ungelösten Problem werden.

Fragen, die Sicherheitsteams zu Schatten-KI stellen sollten

Wie BigID dabei hilft, Schatten-KI aufzudecken und zu kontrollieren

BigID hilft Unternehmen dabei, von der Identifizierung versteckter KI zum Verständnis und zur Reduzierung der damit verbundenen Datenrisiken überzugehen.

BigID verbindet die Erkennung von Schatten-KI mit der Klassifizierung sensibler Daten, Identitäten, Zugriff, Aktivitäten, Eigentumsverhältnissen, Risikopriorisierung und Behebung von Risiken.

Mit BigID können Organisationen:

• Entdecken Sie verborgene KI: Finden Sie nicht autorisierte KI-Tools, nicht verwaltete Modelle, Copiloten, Eingabeaufforderungen, Agenten, Datensätze und Workflows.
• Sensible KI-Daten identifizieren: Klassifizierung von regulierten, personenbezogenen, vertraulichen, firmeneigenen, Kundendaten und anderen Hochrisikodaten, die von KI verwendet werden.
• Karten-KI-Zugriff: Verknüpfen Sie die Nutzung von KI mit Benutzern, Anwendungen, APIs, Dienstkonten, Maschinenidentitäten, Berechtigungen und sensiblen Daten.
• Eigentumsverhältnisse feststellen: Verbinden Sie KI-Systeme und Arbeitsabläufe mit verantwortlichen Teams, Benutzern und Geschäftsinhabern.
• KI-Aktivität korrelieren: Verstehen Sie, wie KI mit Daten interagiert und wo deren Nutzung Risiken birgt.
• KI-Risiken priorisieren: Schwerpunkt auf Schatten-KI im Zusammenhang mit sensiblen Daten, übermäßigem Zugriff, riskanten Aktivitäten, Richtlinienverstößen oder Compliance-Problemen.
• Automatisierte Fehlerbehebung: Trigger-Workflows für Zugriffsbeschränkung, Richtliniendurchsetzung, Zuweisung von Zuständigkeiten, Benachrichtigungen, Berichterstattung und Risikominderung.

Der Ansatz von BigID geht über die bloße Pflege eines Inventars von KI-Anwendungen hinaus.

BigID verknüpft verborgene KI mit den sensiblen Daten, Zugriffsrechten, Identitäten, Aktivitäten und dem Geschäftskontext, die erforderlich sind, um zu bestimmen, was zuerst Aufmerksamkeit erfordert.

Häufig gestellte Fragen zu Shadow AI

Was ist Schatten-KI?

Unter Schatten-KI versteht man KI-Tools, -Modelle, -Agenten, -Copiloten, -Prompts, -Datensätze, -Anwendungen oder -Workflows, die außerhalb der genehmigten Governance-, Sicherheits- oder Aufsichtsprozesse einer Organisation operieren.

Was sind Beispiele für Schatten-KI?

Beispiele hierfür sind Mitarbeiter, die nicht genehmigte KI-Assistenten verwenden, Entwickler, die unkontrollierte Modelle einsetzen, Geschäftsteams, die nicht autorisierte KI-Agenten erstellen, Benutzer, die KI-Funktionen innerhalb von SaaS-Anwendungen aktivieren, und KI-Workflows, die ohne ordnungsgemäße Überprüfung mit Unternehmensdaten verbunden werden.

Warum birgt Schatten-KI Risiken?

Schatten-KI kann sensible Daten offenlegen, übermäßigen Zugriff ermöglichen, Governance-Richtlinien umgehen, unbekannte Identitäten und Datenflüsse einführen, Compliance-Lücken schaffen und es Teams erschweren, zu verstehen, wie KI im gesamten Unternehmen funktioniert.

Worin unterscheidet sich Schatten-KI von Schatten-IT?

Schatten-IT bezeichnet im Allgemeinen nicht genehmigte Anwendungen, Infrastrukturen oder Technologien. Schatten-KI ergänzt diese Systeme um solche, die Unternehmensdaten abrufen, transformieren, generieren und darauf reagieren können, häufig durch autonome Arbeitsabläufe und vererbte Berechtigungen.

Wie können Organisationen Schatten-KI erkennen?

Organisationen können Schatten-KI erkennen, indem sie kontinuierlich KI-Anwendungen, Modelle, Agenten, Copiloten, Eingabeaufforderungen, Datensätze, APIs, Integrationen und Arbeitsabläufe identifizieren und diese Assets dann mit Benutzern, Identitäten, Daten, Zugriffen und Aktivitäten verknüpfen.

Kann zugelassene KI dennoch das Risiko von Schatten-KI bergen?

Ja. Genehmigte Plattformen können Governance-Lücken verursachen, wenn Mitarbeiter neue KI-Funktionen aktivieren, nicht registrierte Agenten erstellen, neue Daten verbinden oder den KI-Zugriff ohne angemessene Überprüfung und Aufsicht erweitern.

Wie sollten Organisationen mit Schatten-KI umgehen?

Organisationen sollten kontinuierlich KI entdecken, die von der KI verwendeten Daten klassifizieren, Identitäten und Zugriffsrechte abbilden, Eigentumsverhältnisse festlegen, Risiken priorisieren, Richtlinien und das Prinzip der minimalen Berechtigungen durchsetzen, Schwachstellen beheben und Veränderungen im Laufe der Zeit überwachen.

Wie hilft BigID bei der Verwaltung von Schatten-KI?

BigID hilft Unternehmen dabei, versteckte KI aufzudecken und KI-Aktivitäten mit sensiblen Daten, Identitäten, Berechtigungen, Eigentumsverhältnissen, Zugriffspfaden und dem Geschäftskontext zu verknüpfen, damit Teams Risiken priorisieren und die Behebung automatisieren können.

Autor

Lonnie Ross

Leiter für Digital Experience-Marketing

Lonnie ist Digital Experience Marketing Lead bei BigID und bringt über ein Jahrzehnt SEO- und Digitalmarketing-Expertise für B2C- und B2B-Unternehmen in den Bereichen SaaS und E-Commerce mit. Durch seine Tätigkeit sowohl im Technologiebereich als auch auf Agenturebene verbindet Lonnie fundierte Kenntnisse in Suchstrategie, UX und Content-Entwicklung mit einer Leidenschaft für die sich entwickelnde Landschaft des Datenschutzes. Von der Ausrichtung von Inhalten auf die Suchabsicht bis hin zur Schärfung der Markenstimme sorgt Lonnie dafür, dass Unternehmen sich nicht nur im wettbewerbsintensiven SaaS-Markt abheben, sondern auch durch ihre Vordenkerrolle bei kritischen Themen wie Compliance, Datenrisiken und verantwortungsvoller Innovation Vertrauen aufbauen.