KI-Risikobewertung: Rahmenwerk, Schritte und bewährte Verfahren

Die Risikobewertung von KI hat sich verändert.

Unternehmen bewerten nicht mehr nur von Data-Science-Teams entwickelte und verwaltete Machine-Learning-Modelle. Enterprise-KI umfasst heute generative KI-Anwendungen, Copiloten, Retrieval-Augmented Generation (RAG), KI-Agenten, APIs, Vektordatenbanken, Drittanbietermodelle, autonome Workflows und in SaaS-Anwendungen integrierte KI-Funktionen.

Diese Systeme können sensible Informationen abrufen, Berechtigungen erben, mit Anwendungen interagieren, APIs aufrufen, Inhalte generieren, Arbeitsabläufe auslösen und Aktionen über menschliche und maschinelle Identitäten durchführen.

Das verändert die zentrale Frage hinter einem KI-Risikobewertung.

Organisationen müssen nicht nur verstehen Was könnte bei einem KI-Modell schiefgehen?, aber auch auf welche Daten die KI zugreifen kann, welche Identitäten und Berechtigungen diesen Zugriff ermöglichen, welche Aktionen sie durchführen kann, welche Richtlinien gelten, wer das Risiko trägt und wie Teams Veränderungen der Bedingungen erkennen und darauf reagieren werden.

Eine effektive KI-Risikobewertung erstreckt sich daher über den gesamten KI-Lebenszyklus, von der Entdeckung und dem Einsatz bis hin zu Zugriff, Nutzung, Überwachung, Steuerung und Behebung von Risiken.

Was ist eine KI-Risikobewertung?

Eine KI-Risikobewertung ist ein strukturierter Prozess zur Identifizierung, Analyse, Priorisierung und Dokumentation von Risiken, die mit einem KI-System, seinen Daten, dem Zugriff, dem Verhalten, den Anwendungsfällen, den Abhängigkeiten und den potenziellen Auswirkungen verbunden sind.

Die Bewertung hilft Organisationen bei der Ermittlung folgender Punkte:

• Welche KI-Systeme und Anwendungsfälle gibt es?
• Wem gehört welches System?
• Welche Daten die KI verwendet oder auf welche sie zugreifen kann
• Welche Identitäten und Berechtigungen ermöglichen den Zugriff?
• Welche Entscheidungen oder Aktionen die KI treffen kann
• Welche Personen, Systeme oder Geschäftsprozesse kann es betreffen?
• Welche Datenschutz-, Sicherheits-, Schutz-, Regulierungs- oder Betriebsrisiken gelten?
• Welche Kontrollmechanismen existieren bereits?
• Welche Risiken erfordern eine Minderung oder Akzeptanz?
• Welche Belege stützen die Einschätzung?
• Wie die Organisation das Risiko nach der Implementierung überwachen wird

Eine KI-Risikobewertung sollte sowohl intern entwickelte KI als auch KI-Dienstleistungen von Drittanbietern umfassen. Sie sollte außerdem in Anwendungen, Anbieterplattformen, Copiloten und Unternehmensworkflows eingebettete KI berücksichtigen.

Warum ist die KI-Risikobewertung wichtig?

KI-Systeme interagieren zunehmend direkt mit Unternehmensdaten und Geschäftsprozessen.

Eine traditionelle Anwendung folgt im Allgemeinen einer vordefinierten Logik. Moderne KI-Systeme können Informationen interpretieren, Antworten generieren, Daten dynamisch abrufen, Werkzeuge auswählen, mit APIs interagieren und, im Falle von Agenten, Aktionen mit unterschiedlichem Grad an Autonomie ausführen.

Das birgt Risiken in mehreren Dimensionen gleichzeitig:

• Datenschutz und Offenlegung sensibler Daten
• Cybersecurity
• Identität und übermäßiger Zugriff
• Modellzuverlässigkeit und -genauigkeit
• Voreingenommenheit und diskriminierende Ergebnisse
• Schnelle und reaktionsfähige Sicherheit
• Datenqualität und Datenherkunft
• Risiken von Drittanbietern und der Lieferkette
• Einhaltung gesetzlicher Bestimmungen
• Transparenz und Erklärbarkeit
• Menschliche Aufsicht
• Auswirkungen auf den Betrieb und das Geschäft

Eine strukturierte Bewertung bietet Sicherheits-, Datenschutz-, Rechts-, Risiko-, Compliance-, Daten- und KI-Teams eine gemeinsame Methode, um festzustellen, wo KI ein relevantes Risiko darstellt und was als Nächstes zu tun ist.

KI-Risikobewertung vs. KI-Risikomanagement vs. KI-Governance

KI-Risikobewertung, KI-Risikomanagement und KI-Governance arbeiten zwar zusammen, dienen aber unterschiedlichen Zwecken.

Die Bewertung sollte nicht mit einer Risikobewertung enden. Das Ergebnis sollte vielmehr als Grundlage für Governance-Entscheidungen und Risikomanagementmaßnahmen während des gesamten KI-Lebenszyklus dienen.

Was sollte eine KI-Risikobewertung umfassen?

Das Risikoprofil eines KI-Systems hängt von mehr als nur der Modellarchitektur ab. Organisationen sollten das Gesamtsystem um das Modell herum bewerten.

Risiko von KI-Systemen und Anwendungsfällen

Beginnen Sie mit dem beabsichtigten Zweck. Ein internes Zusammenfassungstool erstellt ein anderes Risikoprofil als ein KI-System, das für Personalentscheidungen, Finanzentscheidungen, Arbeitsabläufe im Gesundheitswesen, kritische Infrastrukturen oder autonome Geschäftsvorgänge eingesetzt wird.

Dokumentieren Sie den Geschäftszweck, die Benutzer, die betroffenen Stakeholder, die Einsatzumgebung, den Verantwortlichen, die Entscheidungsrolle, den Grad der Autonomie und die Folgen von Fehlern oder Missbrauch.

Daten Risiko

Identifizieren Sie die Daten, die für Training, Feinabstimmung, Verankerung, Abruf, Inferenz, Eingabeaufforderungen, Ausgaben, Auswertung und Überwachung verwendet werden.

Prüfen Sie, ob die Daten Folgendes enthalten:

• Persönliche oder regulierte Informationen
• Zugangsdaten und Geheimnisse
• Finanz- oder Gesundheitsinformationen
• Geistiges Eigentum
• Quellcode
• Vertrauliche Geschäftsinformationen
• Eingeschränkte oder risikoreiche Daten
• Minderwertige, ungenaue, voreingenommene oder ungeeignete Daten

Bei der Risikobewertung sollten auch Datenherkunft, Datenstamm, Datenqualität, Eigentumsverhältnisse, Datenspeicherung, Einwilligung, Datenzweck und geografische Anforderungen berücksichtigt werden.

Identitäts- und Zugriffsrisiko

Moderne KI-Systeme können Zugriff erben durch Anwendungen, APIs, Dienstkonten, Maschinenidentitäten, Benutzerrollen, Konnektoren und Unternehmensintegrationen.

Eine Beurteilung sollte Folgendes feststellen:

• Welche Identitäten können das KI-System nutzen?
• Welche Identitäten die KI selbst verwendet
• Auf welche Daten können diese Identitäten zugreifen?
• Ob die Berechtigungen den beabsichtigten Zweck des KI-Systems überschreiten
• Ob der geerbte Zugriff eine unbeabsichtigte Offenlegung zur Folge hat
• Welche Aktionen die KI mit diesen Berechtigungen ausführen kann

AI Access Governance Hilft dabei, KI-Systeme und Identitäten mit sensiblen Daten, Berechtigungen, Zugriffspfaden und Offenlegung zu verknüpfen, damit Teams erkennen können, wo der Zugriff über den legitimen Geschäftsbedarf hinausgeht.

Risiko für Schnelligkeit, Abruf und Ausgabe

Generative KI birgt Risiken auf der Interaktionsebene.

Prüfen Sie, ob sensible Informationen in Eingabeaufforderungen gelangen, in Antworten erscheinen, durch Abruf verfügbar werden oder die beabsichtigten Benutzer- und Systemgrenzen überschreiten können.

In Betracht ziehen sofortige Injektion, Offenlegung sensibler Daten, unangemessener Abruf, unsichere Ausgabeverarbeitung, übermäßiger Kontext und nachgelagerte Verwendung von KI-generierten Inhalten.

Agentische KI und Autonomierisiko

KI-Agenten erfordern eine genauere Überprüfung, da sie mehr können, als nur Antworten zu generieren.

Agenten können Datenbanken abfragen, APIs aufrufen, mit SaaS-Anwendungen interagieren, Datensätze ändern, Transaktionen initiieren, Inhalte erstellen, Workflows auslösen oder andere Tools und Agenten aufrufen.

Eine agentenbasierte KI-Risikobewertung sollte sowohl bewerten, worauf ein Agent Zugriff hat, als auch was er mit diesem Zugriff anfangen kann.

Zu den Schlüsselfaktoren gehören:

• Agentenidentität
• Wirksame Berechtigungen
• Verfügbare Werkzeuge
• Zugängliche sensible Daten
• Fähigkeit, folgenreiche Maßnahmen zu ergreifen
• Anforderungen an die menschliche Zustimmung
• Aktivitätsüberwachung
• Notfallmäßige Beendigung oder Zugriffsentzug

Modell- und Leistungsrisiko

Beurteilen Sie Risiken wie ungenaue Ergebnisse, Halluzinationen, Verzerrungen, Modelldrift, unzureichende Robustheit, mangelnde Erklärbarkeit, unsachgemäße Verwendung und Leistung außerhalb der vorgesehenen Bedingungen.

Die Bedeutung dieser Risiken hängt stark vom Zweck des KI-Systems und den Folgen fehlerhafter Ergebnisse ab.

Sicherheitsrisiko

Beurteilen Sie, wie Angreifer oder unbefugte Benutzer das KI-System und seine Daten manipulieren, kompromittieren oder missbrauchen könnten.

Dies kann Folgendes umfassen: Prompt-Injection, Datenvergiftung, Modellmanipulation, Kompromittierung von Zugangsdaten, übermäßiger Zugriff, Leckage sensibler Daten, unsichere Integrationen, bösartige Dateien, anfällige Tools und unautorisierte KI-Nutzung.

KI-Risiken von Drittanbietern und Anbietern

Organisationen beziehen KI zunehmend von Anbietern, anstatt jedes System selbst zu entwickeln.

Risikobewertung von Anbietern im Bereich KI sollte bewerten, welche Anbieter KI einsetzen, welche Modelle oder KI-Funktionen sie bereitstellen, welche Unternehmensdaten sie erhalten, ob die Daten das Training oder die Inferenz unterstützen, welche Kontrollmechanismen gelten und welche Nachweise der Anbieter erbringt.

Schatten-KI-Risiko

Mitarbeiter dürfen KI-Tools, Browsererweiterungen, Copiloten, Modelle und Anwendungen außerhalb genehmigter Governance-Prozesse nutzen.

Schatten-KI Dies führt zu einem grundlegenden Bewertungsproblem: Eine Organisation kann das Risiko einer KI, deren Existenz ihr unbekannt ist, nicht bewerten.

Die KI-Erkennung sollte daher der KI-Risikobewertung vorausgehen und diese kontinuierlich unterstützen.

Compliance- und Governance-Risiken

Prüfen Sie, welche Gesetze, Verordnungen, vertraglichen Anforderungen, internen Richtlinien und Branchenstandards für das KI-System und seine Daten gelten.

Relevante Anforderungen und Leitlinien können beispielsweise das EU-KI-Gesetz, Datenschutzgesetze wie die DSGVO, branchenspezifische Vorschriften, vertragliche Anforderungen, interne KI-Richtlinien und freiwillige Rahmenwerke wie das NIST AI Risk Management Framework umfassen.

Wie findet das NIST AI RMF Anwendung bei der KI-Risikobewertung?

Das NIST AI Risk Management Framework bietet eine weit verbreitete Struktur für das Management von KI-Risiken.

Der Kern des KI-Risikomanagements basiert auf vier Funktionen:

• Regieren: Richtlinien, Verantwortlichkeiten, Rollen, Prozesse und eine organisatorische Risikokultur etablieren.
• Karte: Ermitteln Sie den Kontext, den Zweck, die Stakeholder, die Auswirkungen und die Risiken, die mit einem KI-System verbunden sind.
• Messen: Analysieren, bewerten, testen und verfolgen Sie identifizierte KI-Risiken.
• Verwalten: Priorisieren Sie die Risiken, wenden Sie Kontrollmaßnahmen an, überwachen Sie die Ergebnisse und entscheiden Sie, ob der Einsatz oder die fortgesetzte Nutzung weiterhin angemessen ist.

Das NIST betont, dass das KI-Risikomanagement während des gesamten KI-Lebenszyklus fortgesetzt werden sollte und nicht nur als einmalige Checkliste fungieren darf.

Ab 2026 überarbeitet das NIST das AI RMF 1.0 und erweitert seine Leitlinien zur Bewertung moderner KI-Systeme. Im August 2026 veröffentlichte das NIST einen ersten öffentlichen Entwurf des TEVV-Athlon-Framework zur Evaluierung von KI-Systemen, Diese Entwicklung befasst sich mit der Evaluierung verschiedener Technologien, darunter große Sprachmodelle, multimodale KI und agentenbasierte Systeme. Zusammen mit dem Generative AI Profile des NIST unterstreichen diese Entwicklungen die Notwendigkeit, KI kontinuierlich durch Tests, Evaluierung, Verifizierung, Validierung und Lebenszyklus-Risikomanagement zu bewerten.

Wie wirkt sich der EU-KI-Gesetzentwurf auf die KI-Risikobewertung aus?

Der EU-AI-Act verwendet ein risikobasiertes Regulierungsmodell, wodurch die Klassifizierung von KI-Systemen und die dokumentierte Risikoanalyse für Organisationen, die KI im Geltungsbereich entwickeln oder einsetzen, zunehmend an Bedeutung gewinnen.

Das Gesetz trat am 2. August 2026 in Kraft, und die Durchsetzungsbefugnisse des Amtes für Künstliche Intelligenz und der nationalen Behörden sind nun aktiv. Es gelten außerdem Transparenzanforderungen für bestimmte KI-Systeme.

Aufgrund von Änderungen im Umsetzungszeitplan gelten die Anforderungen für bestimmte risikoreiche KI-Systeme erst später. Die Anforderungen für bestimmte risikoreiche Anwendungsfälle gemäß Anhang III gelten ab dem 2. Dezember 2027, während die Anforderungen für risikoreiche KI, die in regulierte Produkte eingebettet ist, ab dem 2. August 2028 gelten.

Organisationen sollten daher Folgendes festlegen:

• Ob das KI-Gesetz auf das System oder den Anwendungsfall anwendbar ist
• Unabhängig davon, ob die Organisation als Anbieter, Implementierer oder ein anderer regulierter Akteur agiert.
• Wie das System klassifiziert wird
• Welche Transparenz- oder sonstigen aktuellen Anforderungen gelten
• Welche zukünftigen risikoreichen Verpflichtungen erfordern eine Vorbereitung?
• Welche Dokumentation und Nachweise die Organisation aufbewahren muss

Bereitschaft zum EU-KI-Gesetz erfordert die Verknüpfung der regulatorischen Klassifizierung mit den KI-Systemen, Datensätzen, Eigentümern, Zugriffsrechten, Herkunftsinformationen, Kontrollmechanismen, Überwachungsmechanismen und den zugrunde liegenden Nachweisen.

So führen Sie eine KI-Risikobewertung durch: 8 Schritte

1. KI-Systeme entdecken und inventarisieren

Identifizieren Sie Modelle, Agenten, Copiloten, Anwendungen, Eingabeaufforderungen, Datensätze, Vektordatenbanken, Pipelines, APIs, KI von Drittanbietern und Schatten-KI.

Datensatzinhaberschaft, Geschäftszweck, Bereitstellungsstatus, Anbieter, Benutzer, Umgebung und Abhängigkeiten.

2. KI-Anwendungsfall und Auswirkungen definieren

Dokumentieren Sie, was das System leistet, wer es benutzt, wen es betrifft, welche Entscheidungen es unterstützt und was passiert, wenn es ausfällt, ein falsches Ergebnis liefert oder missbraucht wird.

3. Die Daten hinter der KI abbilden

Identifizieren Sie Daten, die für Training, Feinabstimmung, Verankerung, Abruf, Inferenz, Prompting, Evaluierung und nachgelagerte Arbeitsabläufe verwendet werden.

Sensible Daten klassifizieren und mit Eigentumsverhältnissen, Herkunft, Qualität, Zweck, Richtlinien und regulatorischem Kontext verknüpfen.

4. Identitäten, Zugriffe und Aktionen zuordnen

Ermitteln Sie, welche Benutzer, Anwendungen, Servicekonten, Maschinenidentitäten, Agenten, APIs und Anbieter Zugriff auf das KI-System und die zugrunde liegenden Daten haben.

Für Agenten sollten nicht nur zugängliche Informationen, sondern auch die ihnen zur Verfügung stehenden Maßnahmen und Werkzeuge dokumentiert werden.

5. Risikoszenarien identifizieren

Bewerten Sie realistische Wege, auf denen das System Schaden oder Risiken in Bezug auf Daten, Datenschutz, Sicherheit, Zugriff, Leistung, Voreingenommenheit, Zuverlässigkeit, Anbieter, Autonomie, Compliance und Geschäftsabläufe verursachen könnte.

6. Risiko bewerten und priorisieren

Bei der Risikobewertung sollten mehr als nur Wahrscheinlichkeit und Schweregrad berücksichtigt werden.

Hilfreicher Kontext kann Folgendes umfassen:

• Datensensibilität
• Umfang des Datenzugriffs
• Autonomiegrad
• Wirksame Berechtigungen
• Anzahl und Art der betroffenen Interessengruppen
• Geschäftskritikalität
• Auswirkungen der Regulierungsbehörde
• Vorhandene Kontrollen
• Nachweisbarkeit
• Mögliche Umkehrbarkeit des Schadens

Inhärentes Risiko stellt das mit dem KI-System verbundene Risiko dar, bevor risikomindernde Maßnahmen in Betracht gezogen werden. Restrisiko stellt das Risiko dar, das nach Anwendung dieser Kontrollmaßnahmen verbleibt. Diese Unterscheidung hilft Teams zu entscheiden, ob bestehende Schutzmaßnahmen das Risiko ausreichend reduzieren, um den Anwendungsfall zu genehmigen, oder ob zusätzliche Maßnahmen, Einschränkungen, Überwachung oder eine Ablehnung erforderlich sind.

7. Kontrollmechanismen anwenden und Zuständigkeiten zuweisen

Verknüpfen Sie die Ergebnisse mit konkreten Maßnahmen wie der Einschränkung des Zugriffs, der Verbesserung der Datenqualität, der Beschränkung des KI-Einsatzes, der Hinzufügung einer menschlichen Überprüfung, der Durchsetzung von Sofortkontrollen, der Änderung der Aufbewahrungsfristen, der Verbesserung der Überwachung, der Korrektur von Richtlinienverstößen oder der Ablehnung eines Anwendungsfalls.

Jedes wesentliche Risiko sollte einen verantwortlichen Verantwortlichen und eine dokumentierte Behandlungsentscheidung haben.

8. Kontinuierlich überwachen und neu bewerten

Eine Neubewertung ist erforderlich, wenn sich das Modell, der Anwendungsfall, die Daten, die Berechtigungen, die Tools, der Anbieter, die Integrationen, die regulatorischen Anforderungen oder die Bereitstellungsumgebung ändern.

Die Risikobewertung von KI sollte als ein Prozess über den gesamten Lebenszyklus hinweg erfolgen und nicht als ein Formular vor der Bereitstellung, das die Teams einmalig ausfüllen und archivieren.

Was sollte eine Vorlage für eine KI-Risikobewertung enthalten?

Ein effektiver Vorlage zur KI-Risikobewertung sollte genügend Informationen erfassen, um eine Entscheidung zu unterstützen, Verantwortlichkeiten zuzuweisen und Beweise zu schaffen, ohne die Bewertung auf eine reine Checklistenübung zu reduzieren.

Nützliche Felder sind beispielsweise:

• Name des KI-Systems oder der Anwendung
• Geschäftlicher Zweck und beabsichtigte Verwendung
• Systeminhaber
• Anbieter oder Verkäufer
• Modell- und KI-Systemtyp
• Bereitstellungsumgebung
• Betroffene Nutzer und Interessengruppen
• Datenquellen
• Kategorien sensibler Daten
• Datenherkunft und Provenienz
• Benutzer- und Maschinenidentitäten
• Berechtigungen und Ansprüche
• Agentenwerkzeuge und zulässige Aktionen
• Drittanbieterabhängigkeiten
• Anwendbare Vorschriften und Richtlinien
• Risikoszenarien
• Inhärentes Risiko
• Vorhandene Kontrollen
• Restrisiko
• Risikoträger
• Erforderliche Sanierungsmaßnahmen
• Genehmigungsentscheidung
• Überwachungsanforderungen
• Überprüfungsdatum und Auslöser für eine erneute Bewertung

Die Vorlage sollte eine nachvollziehbare Beziehung zwischen dem KI-Anwendungsfall, seinen Daten, dem Zugriff darauf, den identifizierten Risiken, den angewandten Kontrollen und der endgültigen Governance-Entscheidung herstellen.

Checkliste zur KI-Risikobewertung

Häufige Fehler bei der KI-Risikobewertung

Beurteilung nur des Modells

Ein einzelnes Modell mag isoliert betrachtet ein geringes Risiko darstellen, während die zugehörige Anwendung umfassenden Zugriff auf sensible Daten, leistungsstarke Tools oder wirkungsvolle Arbeitsabläufe hat.

Sich ausschließlich auf Fragebögen verlassen

Fragebögen erfassen die angegebenen Informationen. Technische Ermittlungen sowie Daten, Identität, Zugriff, Herkunft und Aktivitätskontext können Teams dabei helfen, zu überprüfen, was tatsächlich existiert.

Ignorieren der Schatten-KI

Ein Bewertungsprogramm, das sich ausschließlich auf zugelassene KI-Systeme stützt, lässt unkontrollierte Tools und eingebettete KI außer Acht, die nie in den formalen Überprüfungsprozess einbezogen wurden.

Risikobewertung ohne Kontext

Eine allgemeine Schweregradbewertung kann das KI-Risiko nicht vollständig beschreiben. Dieselbe Schwachstelle oder dasselbe Richtlinienproblem kann je nach Zugriff auf sensible Daten, Berechtigungen, Autonomie, Geschäftszweck und betroffenen Interessengruppen sehr unterschiedliche Folgen haben.

Die Bewertung als einmalige Genehmigung behandeln

Das KI-Risiko ändert sich, wenn sich Modelle, Daten, Berechtigungen, Integrationen, Anbieter, Tools, Richtlinien oder Anwendungsfälle ändern. Die Bewertung erfordert definierte Auslöser für eine erneute Bewertung und eine kontinuierliche Überwachung.

Risikoerkennung ohne Fahrpraxis

Ein umfassendes Risikoregister reduziert das Risiko nicht von allein. Die Bewertung sollte zu nachvollziehbaren Maßnahmen, politischen Entscheidungen, Kontrollen, Abhilfemaßnahmen und Nachweisen führen.

Wie BigID die Operationalisierung der KI-Risikobewertung unterstützt

BigID betrachtet KI-Risiken von den Daten ausgehend.

Das Risiko von KI hängt von mehr ab als nur von der Art des Modells. Es hängt auch von Folgendem ab: Welche Daten bilden die Grundlage, auf welche sensiblen Informationen kann sie zugreifen, welche Identitäten und Berechtigungen ermöglichen diesen Zugriff, wie Daten durch KI-Workflows fließen, welche Richtlinien gelten und welche Maßnahmen die Teams ergreifen, wenn ein Risiko auftritt.

BigID unterstützt Organisationen:

• Entdecken Sie KI-Ressourcen: Inventarmodelle, Agenten, Copiloten, Anwendungen, Datensätze, Eingabeaufforderungen, Vektorspeicher, Pipelines und Schatten-KI im gesamten Unternehmen.
• Die Daten hinter KI verstehen: Erkennen und klassifizieren Sie sensible, regulierte, vertrauliche, geschützte und geschäftskritische Informationen, die in KI-Training, -Abruf, -Inferenz, -Prompts und -Workflows verwendet werden.
• Herkunft der Map AI-Daten: Verstehen Sie, wie Daten die Phasen Training, Optimierung, Abruf, Inferenz und nachgelagerte KI-Workflows durchlaufen.
• KI-Zugriff bewerten: KI-Systeme, Agenten, Benutzer, Anwendungen, Dienstkonten und Maschinenidentitäten werden mit Berechtigungen und dem Schutz sensibler Daten verknüpft.
• Finde Schatten-KI: Identifizieren Sie nicht genehmigte KI-Tools, -Modelle, -Copiloten, -Agenten, -Prompts und -Workflows, die außerhalb genehmigter Governance-Prozesse operieren könnten.
• Bewertung des KI-Risikos des Anbieters: Verstehen Sie, welche Anbieter KI einsetzen, wie sie mit Unternehmensdaten interagieren und wo KI von Drittanbietern ein Sicherheitsrisiko oder Governance-Risiko darstellt.
• KI-Risiken priorisieren: Bewerten Sie das KI-Risiko in Bezug auf Modelle, Agenten, Eingabeaufforderungen, Daten, Zugriff, Nutzung, Eigentumsverhältnisse, Gefährdung und Richtlinienverstöße.
• Laufwerksbereinigung: Verknüpfen Sie die Ergebnisse mit der Durchsetzung von Richtlinien, der Einschränkung des Zugangs, der Zuständigkeiten, den Arbeitsabläufen und den Korrekturmaßnahmen.

Ziel ist es nicht einfach, einen weiteren KI-Risikowert zu erstellen. Vielmehr geht es darum, die KI-Risikobewertung mit den Daten, Zugriffsrechten, Kontrollen, Maßnahmen und Nachweisen zu verknüpfen, die für ein kontinuierliches Risikomanagement erforderlich sind.

Häufig gestellte Fragen zur KI-Risikobewertung

Was ist eine KI-Risikobewertung?

Eine KI-Risikobewertung ist ein strukturierter Prozess zur Identifizierung, Analyse, Priorisierung und Dokumentation von Risiken, die mit einem KI-System, seinen Daten, dem Zugriff, dem Verhalten, den Anwendungsfällen, den Abhängigkeiten und den potenziellen Auswirkungen verbunden sind.

Wie führt man eine KI-Risikobewertung durch?

Beginnen Sie mit der Erfassung der KI-Systeme und der Definition ihrer Anwendungsfälle. Bilden Sie die Daten, Identitäten, Berechtigungen, Abhängigkeiten und Aktionen jedes Systems ab. Identifizieren Sie realistische Risikoszenarien, bewerten Sie deren potenzielle Auswirkungen, prüfen Sie bestehende Kontrollmechanismen, priorisieren Sie das Restrisiko, weisen Sie die Verantwortlichkeiten für die Risikobehebung zu und überwachen Sie kontinuierlich Veränderungen.

Was sollte eine KI-Risikobewertung beinhalten?

Eine KI-Risikobewertung sollte Folgendes umfassen: Zweck des Systems, Eigentümer, Benutzer, betroffene Interessengruppen, Daten, Herkunft, Identitäten, Berechtigungen, Autonomie, Abhängigkeiten von Drittanbietern, anwendbare Vorschriften, Risikoszenarien, Kontrollen, inhärentes und Restrisiko, Abhilfemaßnahmen, Überwachungsanforderungen und unterstützende Nachweise.

Was sind die Hauptkategorien von KI-Risiken?

Zu den Risiken von KI gehören Datenschutz, Offenlegung sensibler Daten, Cybersicherheit, Identität und Zugriff, Modellleistung, Voreingenommenheit, Zuverlässigkeit, Transparenz, Sicherheit von Schnelligkeit und Ausgabe, Drittparteienrisiko, Autonomie, Einhaltung gesetzlicher Vorschriften und betriebliche Auswirkungen.

Worin besteht der Unterschied zwischen KI-Risikobewertung und KI-Risikomanagement?

Die KI-Risikobewertung identifiziert, analysiert und priorisiert KI-Risiken. Das KI-Risikomanagement legt fest, wie die Organisation durch Kontrollen, Überwachung, Behebung von Risiken, Risikoakzeptanz, Governance-Entscheidungen und laufende Aufsicht reagiert.

Wie unterstützt das NIST AI RMF die KI-Risikobewertung?

Das NIST-Rahmenwerk für KI-Risikomanagement strukturiert das KI-Risikomanagement anhand der Säulen Steuerung, Kartierung, Messung und Verwaltung. Diese Funktionen unterstützen Organisationen bei der Etablierung von Governance-Strukturen, dem Verständnis des KI-Kontexts und seiner Auswirkungen, der Risikobewertung, der Priorisierung von Maßnahmen und der kontinuierlichen Verwaltung von KI während ihres gesamten Lebenszyklus.

Wie wirkt sich der EU-KI-Gesetzentwurf auf KI-Risikobewertungen aus?

Der EU-KI-Gesetzentwurf wendet einen risikobasierten Regulierungsansatz für KI an. Betroffene Organisationen müssen ihre Rolle verstehen, relevante KI-Systeme klassifizieren, geltende Verpflichtungen ermitteln, eine angemessene Dokumentation führen und sich auf die Anforderungen vorbereiten, die auf der Risikokategorie des Systems und dem Implementierungszeitplan basieren.

Was ist eine agentenbasierte KI-Risikobewertung?

Eine agentenbasierte KI-Risikobewertung analysiert die Risiken, die von KI-Agenten ausgehen, welche Informationen abrufen, Tools nutzen, APIs aufrufen, mit Anwendungen interagieren, Workflows ausführen oder andere Aktionen durchführen können. Dabei sollten die Identität der Agenten, ihre Berechtigungen, der Zugriff auf sensible Daten, die verfügbaren Tools, ihre Autonomie, die menschliche Aufsicht, die Aktivitätsüberwachung und die potenziellen Auswirkungen auf das Geschäft bewertet werden.

Warum sollten KI-Risikobewertungen den Datenzugriff berücksichtigen?

Das Risiko eines KI-Systems kann sich je nach den Daten, auf die es zugreifen kann, erheblich verändern. Die Verknüpfung von KI-Systemen mit sensiblen Daten, Identitäten, Berechtigungen und Zugriffspfaden hilft Unternehmen, übermäßigen Zugriff zu erkennen und das potenzielle Ausmaß von Gefährdung oder Missbrauch zu verstehen.

Wie häufig sollten Organisationen KI-Risikobewertungen durchführen?

Organisationen sollten KI vor der Implementierung bewerten und die Bewertung wiederholen, sobald sich wesentliche Bedingungen ändern. Dazu gehören das Modell, der Anwendungsfall, die Daten, Berechtigungen, Integrationen, Tools, der Anbieter, regulatorische Anforderungen und die Implementierungsumgebung. Systeme mit höherem Risiko erfordern möglicherweise eine kontinuierliche Überwachung und häufigere formale Überprüfungen.

Wie unterstützt BigID die KI-Risikobewertung?

BigID hilft Unternehmen dabei, KI-Assets zu entdecken, sensible KI-Daten zu klassifizieren, Herkunftsnachweise zu erstellen, KI-Identitäten und Berechtigungen mit Daten zu verknüpfen, Schatten-KI und KI-Risiken von Drittanbietern zu identifizieren, Risiken anhand von Daten und Geschäftskontext zu bewerten, Richtlinien durchzusetzen, Abhilfemaßnahmen zu koordinieren und Governance-Nachweise in unternehmensweiten KI-Umgebungen zu pflegen.