Zum Inhalt springen

New Yorker RAISE-Gesetz: Sicherheitslücken im Bereich der künstlichen Intelligenz

Die Veröffentlichung einer KI-Sicherheitsrichtlinie ist das eine. Der Nachweis, dass die zugrunde liegenden Schutzmechanismen tatsächlich funktionieren, ist etwas ganz anderes.

Da moderne KI-Modelle immer leistungsfähiger werden, stehen Organisationen vor neuen Fragen: Was können diese Systeme leisten? Wie könnten sie missbraucht werden? Und können Sicherheitsmaßnahmen katastrophale Folgen verhindern?.

Was geschieht, wenn ein leistungsstarkes Modell einen groß angelegten Cyberangriff ermöglicht? Kann ein Entwickler gefährliche Funktionen vor der Bereitstellung erkennen? Wer untersucht, wenn ein Modell Sicherheitsvorkehrungen umgeht? Und wie schnell kann die Organisation einen kritischen Sicherheitsvorfall melden?

Dies sind die zentralen Fragen in New York. Gesetz für verantwortungsvolle KI-Sicherheit und -Aufklärung (RAISE).

Der RAISE Act, der im Dezember 2025 in Kraft trat und im März 2026 wesentlich geändert wurde, legt Transparenz, Sicherheitsrahmen und Meldepflichten für Vorfälle für qualifizierte Entwickler innovativer KI-Technologien fest. Die geänderten Rahmenbedingungen sollen demnächst in Kraft treten. 1. Januar 2027.

Die weitergehende Lehre reicht jedoch über die direkt vom Gesetz regulierten Bauträger hinaus.

Die Sicherheit von KI hängt von mehr ab als der Dokumentation von Risiken. Organisationen benötigen Einblick in die Modelle, Daten, Identitäten, Zugriffswege und Kontrollen, die darüber entscheiden, ob diese Risiken zu realen Vorfällen führen können.

Dieser Leitfaden erläutert die Anforderungen des RAISE Act, wer diese einhalten muss, was ein katastrophales Risiko darstellt und welche Governance-Lücken Organisationen schließen sollten, während sich die Fähigkeiten im Bereich der Spitzen-KI weiterentwickeln.

Die Führungsebene im Überblick

New Yorker RAISE-Gesetz: Was zählt

  • Das Gesetz zielt auf innovative KI-Entwickler ab. Es handelt sich nicht um eine universelle KI-Konformitätsverpflichtung für jede Organisation, die generative KI einsetzt.
  • Der geänderte Rahmen tritt am 1. Januar 2027 in Kraft. New York erließ das ursprüngliche Gesetz im Dezember 2025 und nahm im März 2026 mit S8828 wesentliche Änderungen vor.
  • Sicherheitsrahmen müssen in operative Kontrollmaßnahmen umgesetzt werden. Qualifizierte große Pionierentwickler müssen Rahmenwerke veröffentlichen und befolgen, die sich mit Katastrophenrisiken, Modellsicherheit, Bewertungen und Governance befassen.
  • Kritische Ereignisse lösen Meldepflichten aus. Für Erschließer in geschützten Grenzgebieten gilt grundsätzlich eine Meldepflicht von 72 Stunden, wobei zusätzlich eine separate Meldepflicht von 24 Stunden für bestimmte unmittelbare Gefahren für Leib und Leben oder schwere körperliche Verletzungen besteht.
  • Die übersehene Herausforderung besteht darin, die Wirksamkeit der Kontrollmaßnahmen nachzuweisen. Die Modelldokumentation allein deckt möglicherweise nicht unsichere Zugriffe, die Offenlegung sensibler Daten, unzureichende Aufsicht oder Lücken bei der Erkennung von Vorfällen auf.

Was ist der New Yorker RAISE Act?

Die Gesetz für verantwortungsvolle KI-Sicherheit und -Aufklärung, Der sogenannte RAISE Act ist ein New Yorker Gesetz, das die Transparenz und Rechenschaftspflicht im Zusammenhang mit leistungsstarken, zukunftsweisenden Modellen künstlicher Intelligenz verbessern soll.

Ursprünglich erlassen durch Senatsvorlage S6953B, Mit der Gesetzgebung wurde ein Rahmen geschaffen, um die schwerwiegenden Risiken im Zusammenhang mit der Entwicklung und dem Einsatz von Spitzentechnologie der KI anzugehen.

New York erließ daraufhin S8828, eine Kapiteländerung, die das Gesetz wesentlich überarbeitete.

Der geänderte Rahmen bringt mehrere Kernkonzepte enger mit der kalifornischen Gesetzgebung zur Sicherheit von KI in Einklang und etabliert gleichzeitig New York-spezifische Aufsichts- und Meldemechanismen.

Sein zentraler Fokus liegt auf katastrophales Risiko: die Möglichkeit, dass ein hochmodernes KI-Modell zu außergewöhnlich schwerem Schaden beitragen könnte.

Das Gesetz verpflichtet qualifizierte Entwickler, bestimmte Informationen über ihre Sicherheitspraktiken zugänglich zu machen, gefährliche Funktionen zu bewerten, identifizierte Risiken anzugehen und kritische Sicherheitsvorfälle zu melden.

Wichtig ist, dass der RAISE Act nicht für jede KI-Anwendung, jeden Unternehmens-Chatbot oder jede Organisation, die einen KI-Dienst eines Drittanbieters einsetzt, die gleichen Verpflichtungen festlegt.

Die konkreten Anforderungen hängen davon ab, ob eine Organisation die gesetzlichen Definitionen eines Pionierentwicklers oder eines großen Pionierentwicklers erfüllt und ob das betreffende Modell in den Geltungsbereich der New Yorker Gesetze fällt.

Wann tritt der RAISE Act in Kraft?

Das geänderte RAISE-Gesetz soll demnächst in Kraft treten. 1. Januar 2027.

Das Verständnis des gesetzgeberischen Zeitplans ist wichtig, da ältere Artikel möglicherweise Anforderungen aus der ursprünglichen Fassung beschreiben, die durch die Änderungen von 2026 geändert wurden.

Gesetzgebungszeitplan

Von der Verabschiedung bis zur Vollstreckungsbereitschaft

Anhand von drei Meilensteinen wird erläutert, welche Version des RAISE Act Organisationen für die Compliance-Planung verwenden sollten.

19. Dezember 2025

Originalurkunde unterzeichnet

Gouverneurin Kathy Hochul unterzeichnet den RAISE Act und schafft damit eine gesetzliche Grundlage für Sicherheit und Transparenz im Bereich der künstlichen Intelligenz.

27. März 2026

Kapiteländerung unterzeichnet

S8828 überarbeitet die Entwicklerdefinitionen, die Anforderungen an die Sicherheitstransparenz, die Meldepflichten für Vorfälle und die Aufsichtsbestimmungen.

1. Januar 2027

Geplantes Inkrafttreten

Der geänderte Rahmen tritt demnächst in Kraft, weshalb eine frühzeitige Vorbereitung und Umsetzungsplanung für die betroffenen Entwickler wichtig ist.

Wichtigste regulatorische Erkenntnisse: Bei der Bewertung der Anforderungen für 2027 sollte der geänderte Rahmen des Gesetzes S8828 herangezogen werden, anstatt sich ausschließlich auf den ursprünglichen Gesetzestext des Gesetzes S6953B zu verlassen.

Wer muss das RAISE-Gesetz einhalten?

Das Gesetz legt zwei wichtige Kategorien fest: Pionierentwickler und große Grenzlandentwickler.

Diese Kategorien sind zwar verwandt, ihre Verpflichtungen sind jedoch nicht identisch.

Im Rahmen der geänderten Vorgaben ist ein Frontier-Modell ein Basismodell, das mit mehr als … trainiert wurde. 1026 Ganzzahl- oder Gleitkommaoperationen, einschließlich qualifizierender Folgeschulungen und Modifikationen.

Ein großer Grenzlandentwickler ist ein Grenzlandentwickler, dessen jährlicher Bruttoumsatz zusammen mit dem seiner Tochtergesellschaften überstieg $500 Millionen im vorangegangenen Kalenderjahr.

Das Gesetz gilt vorbehaltlich gesetzlicher Ausnahmen für Grenzmodelle, die ganz oder teilweise im Bundesstaat New York entwickelt, eingesetzt oder betrieben werden.

Regulierungsbereich

Pionierentwickler vs. Großer Pionierentwickler

Der Rechenaufwand für das Training des Modells und die Einnahmen des Entwicklers bestimmen, welche Verpflichtungen gegebenenfalls gelten.

Kategorie 01

Frontier Developer

Modellschwelle: Ein qualifizierendes Grundlagenmodell, das mit mehr als 10 trainiert wurde26 Operationen.

Relevante Verpflichtungen: Modelltransparenzberichterstattung und Meldung kritischer Sicherheitsvorfälle.

Hauptunterschied: Einige Anforderungen gelten auch ohne die zusätzliche Umsatzschwelle für große Bauträger.

Kategorie 02

Großer Entwickler im Grenzgebiet

Modellschwelle: Erfüllt die Definition eines Spitzenentwicklers.

Umsatzschwelle: Mehr als 1,4 Billionen US-Dollar Bruttoumsatz im Vorjahr, einschließlich verbundener Unternehmen.

Zusätzliche Verpflichtungen: Veröffentlichte Rahmenwerke für fortschrittliche KI, Katastrophenrisikoanalysen, erweiterte Berichtspflichten und entsprechende regulatorische Offenlegungen.

Was dies für Unternehmen bedeutet: Die bloße Nutzung eines KI-Assistenten eines Drittanbieters macht ein Unternehmen nicht automatisch zu einem Vorreiter in der Technologieentwicklung. Organisationen, die leistungsstarke Modelle integrieren, haben jedoch weiterhin eigene Gründe, Datensicherheit, Zugriffsrechte, Datenschutz und KI-bezogene Risiken zu managen.

Was versteht man unter Katastrophenrisiko im Sinne des RAISE Act?

Der RAISE Act konzentriert sich auf schwerwiegende Folgen, die über gewöhnliche Modellfehler, ungenaue Antworten oder routinemäßige Bedenken hinsichtlich der KI-Governance hinausgehen.

Nach dem geänderten Gesetz umfasst das Katastrophenrisiko ein vorhersehbares und wesentliches Risiko, dass ein Grenzmodell ein Ereignis verursachen oder wesentlich dazu beitragen könnte, das zu einem solchen Ereignis führt. mehr als 50 Tote oder Schwerverletzte bzw. Sachschäden in Höhe von mehr als 1,4 Billionen US-Dollar., vorbehaltlich der im Gesetz festgelegten Definitionen und Bedingungen.

Das Gesetz befasst sich insbesondere mit gefährlichen Fähigkeiten, die zu großflächigen physischen oder wirtschaftlichen Schäden beitragen könnten.

Mögliche Risikoszenarien umfassen:

  • Schwere Cyberbedrohungen: Zukunftsweisende KI-Fähigkeiten, die extrem schädliche Cyberoperationen erst ermöglichen.
  • Biologische oder chemische Bedrohungen: Modellfunktionen, die einen gefährlichen Missbrauch erheblich begünstigen könnten.
  • Kontrollverlust: Verhaltensmuster, die Kontrollmechanismen umgehen und dadurch das Katastrophenrisiko erheblich erhöhen.
  • Weitere katastrophale Ereignisse: Qualifizierende Ereignisse, die die gesetzlichen Kriterien hinsichtlich Schweregrad und Kausalität erfüllen.

Diese Beispiele bedeuten nicht, dass jeder Cybersicherheitsvorfall, jede unsichere Reaktion oder jeder Verstoß gegen KI-Richtlinien ein katastrophales Risiko im Sinne des Gesetzes darstellt.

Die rechtliche Schwelle ist bewusst hoch angesetzt. Die operative Herausforderung besteht darin, zu beurteilen, ob die Fähigkeiten, das Umfeld und die Schutzmaßnahmen eines Modells einen glaubwürdigen Weg zu einem solchen Schadensausmaß eröffnen.

Was verlangt der RAISE Act?

Das geänderte Gesetz legt Anforderungen in Bezug auf Sicherheitsrahmen, Transparenz der Modelle, Meldung von Vorfällen und Aufsicht fest.

1. Veröffentlichte Rahmenwerke für die Sicherheit von Spitzen-KI

Große innovative Entwickler müssen ein zukunftsweisendes KI-Framework entwickeln, implementieren, anwenden und öffentlich publizieren, das beschreibt, wie sie mit katastrophalen Risiken umgehen.

Der Rahmen muss bestimmte Bereiche abdecken, darunter:

  • Anwendbare Normen und branchenübliche Best Practices.
  • Schwellenwerte zur Identifizierung gefährlicher Modellfähigkeiten.
  • Bewertung und Minderung katastrophaler Risiken.
  • Sicherheitsüberprüfungen vor dem Einsatz oder der umfassenden internen Nutzung.
  • Einsatz von Drittanbietern zur Bewertung von Risiken und Gegenmaßnahmen.
  • Framework-Aktualisierungen und Materialänderungen.
  • Cybersicherheitspraktiken zum Schutz unveröffentlichter Modellgewichte.
  • Identifizierung und Reaktion auf kritische Sicherheitsvorfälle.
  • Interne Steuerung und Rechenschaftspflicht.
  • Katastrophale Risiken im Zusammenhang mit der Verwendung interner Modelle.

Große Entwickler von Grenzgebieten müssen ihre Rahmenbedingungen mindestens einmal jährlich überprüfen und wesentliche Änderungen mit einer Erläuterung innerhalb der geltenden gesetzlichen Frist veröffentlichen.

2. Transparenzberichte zum Frontier-Modell

Vor oder gleichzeitig mit der Einführung eines neuen Frontier-Modells oder einer wesentlich modifizierten Version müssen die Frontier-Entwickler bestimmte Informationen über das Modell veröffentlichen.

Diese Informationen umfassen die Website des Entwicklers, Kontaktmöglichkeiten, das Veröffentlichungsdatum des Modells, unterstützte Sprachen und Ausgabemodi, vorgesehene Verwendungszwecke und allgemein geltende Einschränkungen.

Große Erschließungsprojekte in Grenzgebieten müssen zusätzliche Zusammenfassungen zu Katastrophenrisikobewertungen, deren Ergebnissen, der Einbeziehung externer Gutachter und damit verbundenen Sicherheitsmaßnahmen vorlegen.

3. Meldung kritischer Sicherheitsvorfälle

Frontier-Entwickler müssen kritische Sicherheitsvorfälle, die die Voraussetzungen erfüllen, der zuständigen Landesbehörde innerhalb von [Anzahl] Tagen melden. 72 Stunden nach Feststellung, dass ein Vorfall stattgefunden hat, oder nach Kenntniserlangung von Tatsachen, die für die Annahme eines solchen Vorfalls ausreichend sind.

Wenn ein Vorfall eine unmittelbare Gefahr des Todes oder schwerer Körperverletzung darstellt, sieht das Gesetz eine separate Regelung vor. 24-Stunden-Offenlegungspflicht an eine zuständige Behörde, vorbehaltlich der gesetzlichen Bestimmungen.

Aufgrund dieser Anforderungen sind die Identifizierung von Vorfällen, deren Eskalation, Dokumentation und interne Kommunikation besonders wichtig.

4. Aufsicht und Offenlegungspflichten

Das Gesetz legt Aufsichtsverantwortlichkeiten innerhalb des New Yorker Finanzdienstleistungsministeriums fest.

Es beinhaltet auch Anforderungen an große Erschließungsprojekte, bestimmte Offenlegungen bei der zuständigen Stelle einzureichen, relevante Organisationsinformationen anzugeben und die geltenden Bewertungs- und Verlängerungsanforderungen zu erfüllen.

Diese Bestimmungen unterscheiden sich von den öffentlich zugänglichen Transparenzberichten für den Rahmen für fortschrittliche KI und die entsprechenden Modelle.

Warum veröffentlichte Sicherheitsrichtlinien nicht ausreichen

Eine Organisation kann über ein umfassendes KI-Sicherheitskonzept verfügen und dennoch Schwierigkeiten haben, nachzuweisen, dass ihre Kontrollmechanismen effektiv funktionieren.

Betrachten wir einen Entwickler, der Zugriffsbeschränkungen für Modelle, Sicherheitsbewertungen und Verfahren zur Reaktion auf Zwischenfälle dokumentiert.

Das Rahmenkonzept mag vollständig erscheinen. Doch es bleiben wichtige Fragen offen:

  • Wer hat Zugriff auf sensible Trainingsdaten und unveröffentlichte Modellressourcen?
  • Welche Servicekonten und Maschinenidentitäten Verfügen Sie über privilegierte Berechtigungen?
  • Können unautorisierte Datenbewegungen oder Zugriffsänderungen erkannt werden?
  • Besteht ein Zusammenhang zwischen den festgestellten Sicherheitslücken im Modell und den Verantwortlichen für die Behebung der Mängel?
  • Können Teams einen potenziellen Vorfall schnell genug untersuchen, um eine Meldung zu ermöglichen?
  • Spiegelt die nachgewiesene Regierungsführung das aktuelle Umfeld oder eine vergangene Bewertung wider?

Der Unterschied ist bedeutend.

Eine Richtlinie beschreibt, was geschehen soll. Operative Erkenntnisse helfen dabei, festzustellen, was tatsächlich geschieht.

Hier erweisen sich KI-Sicherheit, Datenermittlung, Identitätskontext und kontinuierliche Risikotransparenz als wichtige unterstützende Funktionen.

Die Lücke in den Sicherheitsnachweisen für KI

Fünf Lücken zwischen Politik und Schutz

Hierbei handelt es sich um häufige operative Schwachstellen, nicht um automatische Feststellungen einer Nichteinhaltung des RAISE Act.

Lücke 01 / Sichtbarkeit

Modellbestand vs. Modellexponierung

Was die Teams verfolgen: Registrierte Modelle und zugelassene KI-Anwendungen.

Was ihnen entgehen könnte: Verbundene Datensätze, Repositories, Integrationen und privilegierte Zugriffspfade.

Schließt die Lücke: Verbinden Sie KI-Ressourcen mit Unternehmensdaten und greifen Sie auf den Kontext zu.

Lücke 02 / Sicherheit

Zugriffsrichtlinien vs. Tatsächliche Berechtigungen

Was die Teams verfolgen: Sicherheitsrichtlinien und genehmigte Zugriffsrollen.

Was ihnen entgehen könnte: Übermäßige Berechtigungen, Dienstidentitäten und unerwartete Zugriffsbeziehungen.

Schließt die Lücke: Bewertung des Zugriffs von Menschen und Nicht-Menschen auf sensible KI-bezogene Ressourcen.

Lücke 03 / Beurteilungen

Sicherheitsbewertungen im Vergleich zu sich verändernden Umgebungen

Was die Teams verfolgen: Modellbewertungen und Auswertungsergebnisse.

Was ihnen entgehen könnte: Änderungen an verbundenen Daten, Integrationen, Berechtigungen und dem Bereitstellungskontext.

Schließt die Lücke: Die relevante Exposition sollte neu bewertet werden, wenn sich Systeme und Umgebungen ändern.

Lücke 04 / Vorfälle

Einsatzpläne vs. verwertbare Beweise

Was die Teams verfolgen: Reaktionspläne und Eskalationskontakte.

Was ihnen entgehen könnte: Die Daten, die Identität und der Systemkontext, die zur Untersuchung eines vermuteten Vorfalls benötigt werden.

Schließt die Lücke: Arbeitsabläufe für die Untersuchung vorbereiten und die Zuständigkeit für Eskalationen klar definieren.

Lücke 05 / Governance

Veröffentlichte Rahmenwerke vs. Kontrollstudien

Was die Teams verfolgen: Richtlinien zur Unternehmensführung und Dokumentation zur Einhaltung der Vorschriften.

Was ihnen entgehen könnte: Nachweise über Eigentumsverhältnisse, implementierte Kontrollmaßnahmen, Risikominderung und Veränderungen im Laufe der Zeit.

Schließt die Lücke: Verbinden Sie politische Verpflichtungen mit aktuellen operativen Erkenntnissen.

Das Gesamtbild

Sicherheit erfordert Kontext

Das Verständnis der Modellfunktionen ist unerlässlich. Das Verständnis der umgebenden Daten-, Zugriffs- und Sicherheitsumgebung stärkt die operative Aufsicht.

Nächster Schritt: Verknüpfen Sie Modell-Governance mit Datensicherheitsinformationen.

Wie ein KI-Sicherheitsvorfall die Lücke aufdeckt

Stellen Sie sich einen großen, innovativen Softwareentwickler vor, der die Veröffentlichung eines neuen Modells vorbereitet.

Die Organisation hat ihren Sicherheitsrahmen veröffentlicht, Modellevaluierungen abgeschlossen und relevante Risikominderungsmaßnahmen dokumentiert.

Bei einer routinemäßigen Überprüfung stellt das Sicherheitsteam fest, dass eine mit einer Entwicklungsumgebung verknüpfte Dienstidentität über einen größeren Zugriff verfügt als erwartet.

Die Identität kann Zugriff auf sensible Datenbestände und modellbezogene Ressourcen erhalten, die geschützt werden sollten.

Es gibt keine unmittelbaren Anzeichen für einen katastrophalen Sicherheitsvorfall. Die Entdeckung wirft jedoch mehrere wichtige Fragen auf:

  • Auf welche Systeme und Datensätze kann die Identität zugreifen?
  • Könnten die Berechtigungen sensible Informationen oder unveröffentlichte Modellressourcen offenlegen?
  • Wann erfolgte die Änderung der Zugriffsrechte?
  • Welchen Teams gehören die betroffenen Ressourcen?
  • Sind unautorisierte Aktivitäten aufgetreten?
  • Welche Abhilfemaßnahmen sind erforderlich?
  • Hat der Befund Auswirkungen auf die Sicherheitsbewertung der Organisation?

Die Organisation muss die Ergebnisse untersuchen, bevor sie deren Bedeutung bestimmen kann.

Dieses Beispiel verdeutlicht einen wichtigen Unterschied: Eine Sicherheitslücke stellt nicht automatisch einen kritischen Sicherheitsvorfall im Sinne des RAISE Act dar.. Doch mangelnde Transparenz kann es erschweren, Risiken zu erkennen, einzuschätzen und darauf zu reagieren, insbesondere wenn diese sich verschärfen.

Für Entwickler, die mit leistungsstarken Modellen arbeiten, ist ein zuverlässiger Sicherheitskontext aufgrund dieser Unterscheidung unerlässlich.

KI-Sicherheit beginnt mit Transparenz

Erkennen Sie das Datenrisiko hinter Ihrer KI?

Erfahren Sie, wie BigID Unternehmen dabei unterstützt, KI-Assets zu identifizieren, die Offenlegung sensibler Daten zu verstehen, Zugriffsbeziehungen zu untersuchen und Sicherheitsrisiken in Unternehmensumgebungen zu priorisieren.

Welche Meldefristen gelten gemäß dem RAISE Act?

Das geänderte Gesetz legt gesonderte Meldepflichten für bestimmte kritische Sicherheitsvorfälle fest.

Vorfallsmeldung

Zwei Zeiträume. Unterschiedliche Auslöser.

72 Stunden

Meldung kritischer Sicherheitsvorfälle

Melden Sie sich bei der zuständigen Landesbehörde, nachdem Sie festgestellt haben, dass ein qualifizierender Vorfall eingetreten ist oder nachdem Sie Tatsachen erlangt haben, die ausreichen, um die begründete Annahme zu rechtfertigen, dass ein solcher Vorfall eingetreten ist.

24 Stunden

Offenlegung einer unmittelbar bevorstehenden körperlichen Gefahr

Melden Sie einen meldepflichtigen Vorfall, der eine unmittelbare Gefahr des Todes oder einer schweren Körperverletzung darstellt, der zuständigen Behörde, wie es das Gesetz vorschreibt.

Operative Auswirkungen: Organisationen benötigen klare Prozesse, um mutmaßliche Vorfälle zu identifizieren, festzustellen, ob gesetzliche Auslöser erfüllt sind, und die Informationen an die zuständigen Entscheidungsträger weiterzuleiten.

Diese Anforderungen dürfen nicht mit den üblichen Meldepflichten bei Datenschutzverletzungen verwechselt werden. Die Bestimmungen des RAISE Act zu kritischen Sicherheitsvorfällen befassen sich mit spezifischen Risiken im Bereich der fortschrittlichen KI und definieren Meldeauslöser.

Organisationen sollten bei der Festlegung von Reaktionsprozessen die Rechts-, Sicherheits-, Ingenieurs- und Arbeitsschutzteams koordinieren.

Welche Strafen drohen bei Verstößen gegen den RAISE Act?

Der geänderte RAISE Act ermächtigt den Generalstaatsanwalt von New York, Zivilklagen wegen bestimmter Verstöße einzuleiten.

Mögliche Strafen sind:

  • Bis zu 1 Tsd. 4 Billionen US-Dollar für einen ersten Qualifikationsverstoß.
  • Bis zu 1,4 Billionen US-Dollar für jeden weiteren qualifizierenden Verstoß.

Diese Strafen gelten unter bestimmten gesetzlichen Voraussetzungen, darunter bestimmte Verstöße gegen die Pflicht zur Vorlage erforderlicher Dokumente, die Meldung von Vorfällen, verbotene Äußerungen oder die Einhaltung der eigenen Rahmenbedingungen eines großen Entwicklers im Bereich neuer Technologien.

Weitere Bestimmungen regeln die erforderlichen Offenlegungen großer Erschließungsprojekte, einschließlich potenzieller täglicher Strafen bei bestimmten Meldeverstößen.

Das Gesetz schafft kein neues Klagerecht für Privatpersonen wegen Verstößen gegen den RAISE Act selbst.

Der Durchsetzungsrahmen unterstreicht einen zentralen Punkt: Die Veröffentlichung eines Sicherheitsrahmens schafft Verantwortlichkeiten hinsichtlich dessen Einhaltung und der korrekten Darstellung seiner Umsetzung.

Wie sollten sich Organisationen auf den RAISE Act vorbereiten?

Die Planung der direkten Einhaltung der Vorschriften sollte mit der Feststellung beginnen, ob die Organisation als Pionierentwickler oder großer Pionierentwickler einzustufen ist.

Von dort aus können Organisationen die rechtlichen Anforderungen mit den betrieblichen Kontrollmechanismen verknüpfen, die zur Unterstützung von Sicherheit, Transparenz und Berichterstattung erforderlich sind.

Einsatzbereitschaft

Sieben Maßnahmen zur Stärkung der Sicherheit von KI-Systemen in der Grenzregion

01

Regulierungsrahmen bestätigen. Bewertung des Rechenaufwands für das Modelltraining, des Entwicklerstatus, der Umsatzschwellenwerte, der Verbindungen nach New York und etwaiger Ausnahmen.

02

Kartieren Sie KI-Ressourcen und -Umgebungen. Relevante Modelle, Datenquellen, unterstützende Systeme und Sicherheitsabhängigkeiten identifizieren.

03

Bewerten Sie katastrophale Risiken. Angemessene Leistungsschwellenwerte, Bewertungsverfahren und Minderungskriterien festlegen.

04

Die Modellsicherheit stärken. Überprüfen Sie den Zugriff auf nicht freigegebene Modellgewichte, sensible Repositories, Serviceidentitäten und verbundene Umgebungen.

05

Arbeitsabläufe für Vorfallsbearbeitung vorbereiten. Definieren Sie die Prozesse für Erkennung, Untersuchung, Eskalation, Dokumentation und die entsprechenden Meldungen.

06

Verknüpfen Sie Governance mit Evidenz. Führen Sie die relevanten Sicherheitsdokumente, kontrollieren Sie die Eigentumsverhältnisse, führen Sie Bewertungen durch und dokumentieren Sie Abhilfemaßnahmen.

07

Die Änderungen werden fortlaufend überprüft. Materialmodelländerungen, neue Fähigkeiten, Zugangsänderungen und sich entwickelnde regulatorische Vorgaben neu bewerten.

Wichtigste Erkenntnis: Dies ist ein empfohlener Rahmen für die operative Einsatzbereitschaft, keine gesetzliche Vorgabe in sieben Schritten. Die konkreten Verpflichtungen hängen von der Entwicklerklassifizierung, dem Modellumfang, anwendbaren Ausnahmen und den gesetzlichen Bestimmungen ab.

Wie BigID KI-Sicherheit und Governance unterstützt

Die direkten Verpflichtungen des RAISE Act konzentrieren sich auf die Sicherheit von KI-Technologien der Spitzenklasse und auf katastrophale Risiken. BigID adressiert eine wichtige unterstützende Ebene: die Transparenz von KI-Ressourcen, sensiblen Daten, Zugriffsbeziehungen und Sicherheitsrisiken in Unternehmen.

BigID hilft Organisationen dabei, KI-Systeme mit den sie umgebenden Daten und Identitäten zu verbinden, wodurch Teams Risiken erkennen können, die sonst in fragmentierten Umgebungen verborgen bleiben würden.

  • KI-Asset-Erkennung: Identifizieren Sie KI-Anwendungen, -Modelle, -Agenten und Schatten-KI in Unternehmensumgebungen.
  • Ermittlung sensibler Daten: Sensible und regulierte Informationen im Zusammenhang mit KI-Workflows finden und klassifizieren.
  • KI-Zugriffssteuerung: Untersuchen Sie den Zugriff von Menschen und nicht-menschlichen Personen auf sensible Daten und vernetzte Systeme.
  • Datenherkunft: Datenursprünge, Beziehungen und die Bewegung von Daten in unterstützten Umgebungen verstehen.
  • Risikopriorisierung: Verknüpfen Sie Sensibilität, Zugriffsrechte, Richtlinien und Geschäftskontext, um handlungsrelevante Risiken zu identifizieren.
  • Nachweise zur Regierungsführung: Unterstützung von Bewertungen, Verantwortlichkeiten, Abhilfemaßnahmen und Überwachung durch relevante Datensicherheitsinformationen.

Diese Fähigkeiten können spezialisierte Grenzmodellbewertungen, modellgewichtete Sicherheitskontrollen und Vorfallmeldesysteme ergänzen.

BigID zertifiziert nicht eigenständig die Einhaltung des RAISE Act und ersetzt auch nicht die von den betroffenen Entwicklern vorgeschriebenen Katastrophenrisikobewertungen und Berichtsfunktionen.

Sein Wert besteht darin, Organisationen dabei zu helfen, die unternehmensweite Daten- und Zugriffsumgebung rund um ihre KI-Systeme zu verstehen und zu steuern.

Warum der RAISE Act auch jenseits von Frontier Developers von Bedeutung ist

Die meisten Organisationen werden die Schwellenwerte des RAISE Act für Pionierentwickler nicht erreichen.

Doch viele Unternehmen setzen zunehmend auf leistungsfähigere Modelle mithilfe von Cloud-Diensten, APIs, eingebetteten Anwendungen und autonomen KI-Agenten.

Diese Organisationen unterliegen möglicherweise nicht denselben direkten Verpflichtungen gemäß dem RAISE Act, müssen aber dennoch wichtige Fragen zur Sicherheit und Unternehmensführung beantworten.

Auf welche sensiblen Informationen kann ein KI-System zugreifen? Identitäten Kontrollierst du es? Kann das System mit anderen Unternehmensanwendungen interagieren? Wie werden riskante Berechtigungen identifiziert? Was passiert bei einer Änderung der Integration?

Diese Fragen gewinnen an Bedeutung, wenn die KI sich von der Inhaltserstellung hin zur Durchführung von Aktionen in verschiedenen Geschäftsumgebungen entwickelt.

Der RAISE Act des Bundesstaates New York reiht sich in die Ansätze anderer Bundesstaaten zur KI-Regulierung ein. Kalifornien hat wegweisende Gesetze zur KI-Sicherheit verabschiedet, während andere Bundesstaaten sich auf automatisierte Entscheidungen, Verbraucherinformationen oder die Transparenz von KI-Inhalten konzentrieren.

Organisationen sollten vermeiden, diese unterschiedlichen Gesetze als austauschbar zu behandeln.

Ein nachhaltiges KI-Governance-Programm schafft eine gemeinsame Grundlage für KI-Transparenz, Datensicherheit, Zugriff und Risikomanagement und ordnet dann spezifische rechtliche Verpflichtungen den relevanten Systemen und Aktivitäten zu.

Entdecken Sie BigIDs Globaler KI-Regulierungs-Tracker die regulatorischen Entwicklungen in den US-Bundesstaaten und internationalen Rechtsordnungen zu verfolgen.

New York RAISE Act: Häufig gestellte Fragen

Was ist der New York RAISE Act?

Der Responsible AI Safety and Education (RAISE) Act ist ein New Yorker Gesetz, das Transparenz, Sicherheitsrahmen und Meldepflichten für Vorfälle für qualifizierte Entwickler fortschrittlicher KI-Systeme festlegt. Das ursprüngliche Gesetz trat im Dezember 2025 in Kraft und wurde im März 2026 durch den Gesetzesentwurf S8828 wesentlich geändert.

Wann tritt der RAISE Act in Kraft?

Das geänderte RAISE-Gesetz soll am 1. Januar 2027 in Kraft treten. Organisationen sollten den geänderten Rahmen des Gesetzes S8828 prüfen, um sich auf die Anforderungen des Gesetzes vorzubereiten.

Wer muss das RAISE-Gesetz einhalten?

Das Gesetz gilt für qualifizierte Pionierentwickler und große Pionierentwickler, deren Pioniermodelle ganz oder teilweise im Bundesstaat New York entwickelt, eingesetzt oder betrieben werden, vorbehaltlich gesetzlicher Ausnahmen. Ein großer Pionierentwickler muss die Kriterien für ein Pioniermodell erfüllen und einen Bruttojahresumsatz von über 1,5 Billionen US-Dollar im Vorjahr, einschließlich verbundener Unternehmen, erzielt haben.

Was qualifiziert ein zukunftsweisendes KI-Modell?

Nach dem geänderten Gesetz ist ein Frontier-Modell ein Basismodell, das mit mehr als 10 trainiert wurde.26 Ganzzahl- oder Gleitkommaoperationen, einschließlich der entsprechenden Weiterbildung und Materialmodifikationen.

Was versteht man unter Katastrophenrisiko im Sinne des RAISE Act?

Bei einem Katastrophenrisiko handelt es sich um ein vorhersehbares und wesentliches Risiko, dass ein Grenzmodell einen Vorfall verursachen oder wesentlich dazu beitragen könnte, der zu mehr als 50 Todesfällen oder schweren Verletzungen oder zu einem Sachschaden von mehr als 1,4 Billionen US-Dollar führt, vorbehaltlich der Definitionen und Bedingungen des Gesetzes.

Was muss ein zukunftsweisendes Sicherheitskonzept für KI beinhalten?

Große Entwickler innovativer Technologien müssen Rahmenbedingungen veröffentlichen und einhalten, die sich mit Schwellenwerten für Katastrophenrisiken, Bewertungen, Risikominderungsmaßnahmen, Evaluierungen durch Dritte, modellgewichteter Sicherheit, Reaktion auf kritische Sicherheitsvorfälle, interner Governance und anderen festgelegten Anforderungen befassen.

Welche Fristen gelten für die Meldung von Vorfällen gemäß dem RAISE Act?

Entwickler in Grenzgebieten müssen kritische Sicherheitsvorfälle in der Regel innerhalb von 72 Stunden nach deren Feststellung oder dem begründeten Verdacht der Gefährdung der zuständigen Landesbehörde melden. Bestimmte Vorfälle, die eine unmittelbare Gefahr für Leib und Leben darstellen, müssen – vorbehaltlich gesetzlicher Bestimmungen – innerhalb von 24 Stunden einer zuständigen Behörde gemeldet werden.

Welche Strafen drohen bei Verstößen gegen den RAISE Act?

Der Generalstaatsanwalt von New York kann für einen ersten Verstoß zivilrechtliche Strafen von bis zu 14 Billionen US-Dollar und für jeden weiteren Verstoß von bis zu 14 Billionen US-Dollar verhängen. Das geänderte Gesetz enthält außerdem separate Bestimmungen zu den Offenlegungspflichten von Bauträgern und den damit verbundenen Strafen.

Gilt der RAISE Act für jedes Unternehmen, das generative KI einsetzt?

Nein. Der RAISE Act zielt primär auf qualifizierte KI-Entwickler der ersten Stunde ab. Die übliche Nutzung einer KI-Anwendung eines Drittanbieters durch ein Unternehmen macht dieses nicht automatisch zu einem Entwickler der ersten Stunde, obwohl andere Gesetze in den Bereichen KI, Datenschutz, Sicherheit und Verbraucherschutz Anwendung finden können.

Wie kann BigID bei der Vorbereitung auf den RAISE Act helfen?

BigID unterstützt Organisationen bei der Ermittlung von KI-Assets, der Identifizierung sensibler Daten, dem Verständnis von Zugriff und Herkunft, der Bewertung datenbezogener KI-Risiken und der Unterstützung der Governance-Aufsicht. Diese Funktionen ergänzen spezialisierte Sicherheitsbewertungen für fortschrittliche KI und Meldeverfahren für Vorfälle, gewährleisten jedoch nicht eigenständig die Einhaltung des RAISE Act.

KI-Sicherheit und Governance

Kennen Sie Ihre KI-Belastung?.
Die Kontrollmechanismen dahinter verstärken.

Verbinden Sie KI-Erkennung mit sensibler Datenanalyse, Zugriffsverwaltung und Risikotransparenz. Erfahren Sie, wie BigID Unternehmen dabei unterstützt, die KI-gestützten Unternehmensumgebungen zu verstehen und zu sichern.

Quellen und weiterführende Literatur

Dieser Artikel dient allgemeinen Informationszwecken und stellt keine Rechtsberatung dar. Organisationen sollten sich hinsichtlich der Anwendbarkeit des New Yorker Rechts, gesetzlicher Definitionen, Meldepflichten, Ausnahmen und Umsetzungsanforderungen von qualifizierten Rechtsberatern beraten lassen.

Inhalt

Decorative image on an article about AI model security

Datenzugriffsverwaltung neu gedacht für das KI-Zeitalter

White Paper herunterladen

Verwandte Beiträge

Alle Beiträge anzeigen