Kalifornisches KI-Transparenzgesetz: Lücken bei der Einhaltung

KI-generierte Inhalte können noch lange authentisch wirken, nachdem die Informationen, die ihre Herkunft beweisen, verschwunden sind.

Ein Bild kann mithilfe eines generativen KI-Modells erstellt, heruntergeladen, bearbeitet, auf eine Kollaborationsplattform hochgeladen, über soziale Medien geteilt und in einer anderen Anwendung wiederverwendet werden. Irgendwo auf diesem Weg können die Informationen, die seinen Ursprung identifizieren, verloren gehen.

Das ist mehr als nur ein Problem der Inhaltskennzeichnung. Es schafft eine Vertrauens- und Verantwortlichkeitslücke.

Die Kalifornisches KI-Transparenzgesetz, das durch den Senatsbeschluss 942 eingeführt und durch den Versammlungsbeschluss 853 erweitert wurde, führt Anforderungen ein, die darauf abzielen, bestimmte KI-generierte Bilder, Videos und Audiodateien besser identifizierbar zu machen und ihre Herkunft leichter überprüfbar zu machen.

Für betroffene Organisationen bedeutet Compliance mehr als nur das Hinzufügen eines “KI-generierten” Labels. Sie erfordert die Berücksichtigung der Herkunft von Inhalten, maschinenlesbarer Offenlegungen, Erkennungstools, der Verbreitung durch Dritte und der mit Authentizitätsnachweisen verbundenen personenbezogenen Daten.

Die entscheidende Frage: Kann Ihre Organisation die Authentizität von KI-Inhalten über die Systeme hinweg gewährleisten und überprüfen, in denen Inhalte erstellt, geändert, gehostet und geteilt werden?

Dieser Leitfaden erläutert die Anforderungen des Gesetzes, wen sie betreffen, wo operative Lücken entstehen und wie Organisationen die Transparenz von KI verbessern können, ohne die Kontrolle über die zugrunde liegenden Daten zu verlieren.

Was ist der kalifornische KI-Transparenzgesetz?

Der California AI Transparency Act ist ein kalifornisches Landesgesetz, das die Transparenz bestimmter KI-generierter und KI-veränderter digitaler Inhalte verbessern soll.

Ursprünglich erlassen durch Senatsvorlage 942, Das Gesetz legt Offenlegungs- und Erkennungspflichten für qualifizierte Anbieter von generativen KI-Systemen fest.

Kalifornien erließ daraufhin Gesetzesvorlage 853, wodurch der ursprüngliche Geltungsbeginn verschoben und der Rahmen auf weitere Teilnehmer im Ökosystem digitaler Inhalte ausgeweitet wurde.

Die Gesetzgebung ist in den Abschnitten 22757 bis 22757.6 des California Business and Professions Code kodifiziert.

Das Hauptziel ist klar: Menschen dabei zu helfen, bestimmte KI-generierte Inhalte zu identifizieren und auf verlässliche Informationen darüber zuzugreifen, wie diese Inhalte erstellt oder verändert wurden.

Die Umsetzung dieses Ziels erfordert jedoch eine technische Koordination.

Eine Inhaltskennzeichnung kann in einer Benutzeroberfläche angezeigt werden. Herkunftsinformationen können in einer Datei oder ihren Metadaten eingebettet sein. Erkennungswerkzeuge müssen relevante Informationen unter Berücksichtigung von Datenschutzbestimmungen identifizieren. Vertriebsplattformen müssen gegebenenfalls Authentizitätssignale, die andernorts erstellt wurden, beibehalten.

KI-Transparenz ist nicht nur ein Label, das Inhalten beigefügt wird. Es handelt sich um Informationen, die während des gesamten Inhaltslebenszyklus nutzbar bleiben müssen.

Wann tritt das kalifornische KI-Transparenzgesetz in Kraft?

Das Gesetz sieht einen stufenweisen Umsetzungsplan vor.

Obwohl SB 942 ursprünglich den 1. Januar 2026 als Inkrafttretensdatum festlegte, verschob AB 853 die Kernanforderungen auf 2. August 2026.

Weitere Verpflichtungen sind für den 1. Januar 2027 und den 1. Januar 2028 vorgesehen, abhängig von der Art der Organisation und der eingesetzten Technologie.

Wer muss das kalifornische KI-Transparenzgesetz einhalten?

Das Gesetz unterscheidet zwischen verschiedenen Kategorien von Organisationen.

Abgedeckte Anbieter generativer KI

Als abgedeckter Anbieter gilt eine Person oder Organisation, die ein generatives KI-System mit mehr als einer Million monatlichen Besuchern oder Nutzern erstellt, programmiert oder auf andere Weise produziert, das in Kalifornien öffentlich zugänglich ist.

Diese Anbieter unterliegen den grundlegenden Offenlegungs- und Aufdeckungspflichten des Gesetzes.

Große Online-Plattformen

Ab dem 1. Januar 2027 gelten zusätzliche Anforderungen für qualifizierte öffentlich zugängliche Social-Media-, File-Sharing-, Massennachrichten- und eigenständige Suchplattformen.

Die gesetzliche Definition beinhaltet eine Schwelle von mehr als zwei Millionen monatlichen Nutzern in den vorangegangenen zwölf Monaten sowie weitere qualifizierende Bedingungen und Ausschlusskriterien.

Hosting-Plattformen für generative KI

Ab dem 1. Januar 2027 dürfen GenAI-Hosting-Plattformen wissentlich keine generativen KI-Systeme mehr zur Verfügung stellen, die die im Gesetz vorgeschriebenen Offenlegungen nicht enthalten.

Hersteller von Erfassungsgeräten

Ab dem 1. Januar 2028 müssen bestimmte Hersteller festgelegte Herkunftsnachweise für qualifizierte Geräte erbringen, die erstmals am oder nach diesem Datum in Kalifornien zum Verkauf hergestellt werden.

Diese Verpflichtungen unterliegen den gesetzlichen Bestimmungen zur technischen Machbarkeit und den geltenden Normen.

Was schreibt das kalifornische KI-Transparenzgesetz vor?

Die Kernanforderungen konzentrieren sich darauf, bestimmte KI-generierte Bilder, Videos und Audiodateien durch sichtbare Kennzeichnungen, eingebettete Herkunftsinformationen und leicht zugängliche Erkennungswerkzeuge identifizierbar zu machen.

Obwohl generative KI-Systeme auch Texte erzeugen können, beziehen sich die wichtigsten Bestimmungen des Gesetzes zur Offenlegung und Erkennung von Inhalten speziell auf Bilder, Videos, Audiodateien und Kombinationen dieser Formate.

1. Kostenlose KI-Erkennungstools

Die betroffenen Anbieter müssen ein KI-Erkennungstool kostenlos zur Verfügung stellen, mit dem die Nutzer beurteilen können, ob qualifizierende Inhalte durch das generative KI-System des Anbieters erstellt oder verändert wurden.

Das Tool muss gesetzliche Kriterien in Bezug auf öffentliche Zugänglichkeit, Upload von Inhalten oder URL-Übermittlung, API-Unterstützung, Informationen zur Systemherkunft und Benutzerfeedback erfüllen.

Das Gesetz schränkt auch ein, wie Anbieter mithilfe des Erkennungstools personenbezogene Daten und übermittelte Inhalte erfassen und speichern dürfen.

2. Offensichtliche Offenlegungen

Die betroffenen Anbieter müssen den Nutzern die Möglichkeit bieten, eine Offenlegung einzufügen, in der die entsprechenden Inhalte als KI-generiert gekennzeichnet sind.

Offensichtliche Offenlegungen sollen für die Menschen verständlich und für das jeweilige Medium angemessen sein.

Beispielsweise kann eine sichtbare, KI-generierte Kennzeichnung eines Bildes oder ein hörbarer Hinweis im Zusammenhang mit synthetischem Audio dazu beitragen, die Herkunft zu kommunizieren.

Die gesetzliche Anforderung umfasst auch die Dauerhaftigkeit bzw. die Widerstandsfähigkeit gegen die Entfernung, soweit dies technisch möglich ist.

3. Verborgene Offenlegungen

Die betroffenen Anbieter müssen latente Offenlegungen in qualifizierten KI-generierten Bild-, Video- und Audioinhalten berücksichtigen.

Diese maschinell erkennbaren Offenlegungen müssen bestimmte Kriterien hinsichtlich Herkunftsinformationen, technischer Machbarkeit, Branchenstandards, Erkennung und Beständigkeit gegen Entfernung erfüllen.

Relevante Herkunftsinformationen können den Anbieter, den Modellnamen und die Version, das Erstellungs- oder Änderungsdatum sowie eine eindeutige Kennung umfassen.

4. Lizenzkontrollen von Drittanbietern

Wenn betroffene Anbieter ihre GenAI-Systeme an Dritte lizenzieren, schreibt das Gesetz vertragliche Schutzmaßnahmen vor, die die Fähigkeit des Systems gewährleisten, erforderliche latente Offenlegungen einzubeziehen.

Die betroffenen Leistungserbringer müssen auch dann bestimmte Maßnahmen ergreifen, wenn sie feststellen, dass ein Lizenznehmer ein System so verändert hat, dass es diese Offenlegungen nicht mehr enthalten kann.

Gemeinsamer Nenner ist Kontinuität: Informationen zur Authentizität von Inhalten müssen erstellt, erkennbar und über alle relevanten technischen und kommerziellen Beziehungen hinweg geschützt werden.

Warum die Herkunft von KI-Inhalten wichtig ist

Die Provenienz von Inhalten beschreibt Informationen, die dabei helfen festzustellen, woher digitale Inhalte stammen, wie sie erstellt wurden und ob sie verändert wurden.

In Unternehmensumgebungen kann es zu einer Fragmentierung dieser Informationen kommen.

Ein Bild kann von einem Dienst erzeugt, von einem anderen bearbeitet, in einem Digital Asset Management System gespeichert und über eine separate Content-Plattform veröffentlicht werden.

Ein Video kann in ein neues Format exportiert werden. Eine Audiodatei kann im Rahmen eines Produktionsworkflows verarbeitet werden. Metadaten können während der Konvertierung oder Verteilung einer Datei entfernt werden.

Jeder Schritt kann die Verfügbarkeit oder Integrität der Herkunftsinformationen beeinträchtigen.

Deshalb erfordert die Authentizität von Inhalten mehr als nur die einmalige Generierung von Metadaten.

Organisationen müssen verstehen, woher Herkunftsinformationen stammen, welche Systeme sie bewahren und wo sie verloren gehen können.

Weit verbreitete technische Spezifikationen, einschließlich der Koalition für Herkunft und Authentizität von Inhalten (C2PA) Das Ökosystem bietet Ansätze zur Verknüpfung von überprüfbaren Herkunftsinformationen mit digitalen Inhalten.

Organisationen sollten jedoch zwischen der Übernahme eines technischen Standards und der Erfüllung der spezifischen gesetzlichen Anforderungen unterscheiden. Die Umsetzung muss anhand der geltenden gesetzlichen Bestimmungen bewertet werden.

Fünf Transparenzlücken im Bereich KI, die Organisationen oft übersehen

Ein Unternehmen kann über eine KI-Richtlinie, genehmigte Tools zur Inhaltsgenerierung und einen etablierten Veröffentlichungsworkflow verfügen, ohne zu wissen, ob Authentizitätsinformationen diesen Workflow überstehen.

Die Lücken entstehen oft zwischen KI-Systemen, digitalen Assets, Datenverarbeitung und -verteilung.

Was passiert, wenn KI-Inhalte ihre Herkunft verlieren?

Betrachten wir ein Medienunternehmen, das einen kostenpflichtigen Anbieter generativer KI zur Erstellung eines Werbebildes einsetzt.

Die Originaldatei enthält maschinenlesbare Herkunftsinformationen. Ein Designer bearbeitet das Bild anschließend, exportiert eine komprimierte Version und lädt diese in ein Content-Management-System hoch.

Ein anderes Team verbreitet das Bild über eine Drittanbieterplattform.

Am Ende des Workflows sieht der sichtbare Inhalt noch gleich aus. Die Authentizitätsinformationen sind jedoch möglicherweise nicht mehr verfügbar.

Nun braucht die Organisation Antworten:

• Welches System hat das Bild ursprünglich erzeugt?
• Wurden die erforderlichen Herkunftsangaben bei der Erstellung berücksichtigt?
• Wurde die Offenlegung durch Bearbeitung oder Export entfernt oder verändert?
• Kann das Erkennungstool des Anbieters die Inhalte identifizieren?
• Werden die Herkunftsinformationen auf der Vertriebsplattform beibehalten?
• Wer ist für den Arbeitsablauf verantwortlich und untersucht Fehler?
• Welche technischen Änderungen würden ein erneutes Auftreten des Problems verhindern?

Das Beispiel begründet nicht automatisch einen Verstoß jeder beteiligten Organisation. Für verschiedene Akteure gelten unterschiedliche gesetzliche Verpflichtungen, und manche Pflichten hängen von der technischen Machbarkeit ab.

Es verdeutlicht aber die operative Herausforderung.

Inhalte können auch dann noch nutzbar sein, wenn ihre Herkunft nicht mehr nachvollziehbar ist. Die dadurch entstehende Authentizitätslücke bleibt möglicherweise unbemerkt, bis jemand versucht, ihren Ursprung zu überprüfen.

KI-Erkennungstools schaffen auch Datenschutzverpflichtungen

Eine der weniger offensichtlichen Anforderungen des Gesetzes betrifft die Verarbeitung personenbezogener Daten mithilfe von KI-Erkennungstools.

Ein Benutzer kann ein Foto, ein Video oder eine Audiodatei einreichen, um festzustellen, ob diese vom System eines betroffenen Anbieters erstellt oder verändert wurde.

Diese Übermittlung könnte persönliche Informationen, Metadaten oder Herkunftsangaben enthalten, die mit einer Person in Verbindung stehen.

Das kalifornische Gesetz schränkt die Erfassung und Speicherung personenbezogener Daten von Nutzern von Erkennungstools durch die betroffenen Anbieter ein, vorbehaltlich einer begrenzten Ausnahme für Feedback durch ausdrückliche Einwilligung.

Darüber hinaus wird die Aufbewahrung eingereichter Inhalte über das zur Einhaltung der Vorschriften notwendige Maß hinaus beschränkt und die Speicherung personenbezogener Herkunftsdaten aus eingereichten Inhalten untersagt.

Das führt zu einer wichtigen Unterscheidung:

Organisationen benötigen ausreichend Informationen, um die Authentizität von Inhalten zu beurteilen, ohne dass der Verifizierungsprozess zu einer unnötigen Quelle der Erhebung personenbezogener Daten wird.

Teams für Datenschutz und Sicherheit sollten bewerten, wie Erkennungstools mit Uploads, Metadaten, Feedback, Aufbewahrung und Löschung umgehen.

Diese Überlegungen stimmen mit umfassenderen Überlegungen überein. KI-Governance Praktiken, die Zweckbegrenzung, Datenminimierung und Aufsicht umfassen.

Wie erweitert AB 853 die Anforderungen an die Transparenz von KI?

AB 853 erweitert das ursprüngliche Gesetz über qualifizierte GenAI-Anbieter hinaus auf weitere Teilnehmer an der Inhaltsverteilung und -erfassung.

Große Online-Plattformen müssen die Herkunft berücksichtigen

Ab dem 1. Januar 2027 müssen qualifizierte große Online-Plattformen unterstützte Herkunftsdaten erkennen, den Nutzern Zugang zu bestimmten Authentizitätsinformationen gewähren und, soweit technisch möglich, wissentlich vermeiden, konforme Systemherkunftsdaten oder digitale Signaturen zu entfernen.

Damit wird die Inhaltsverteilung in den Transparenzrahmen einbezogen.

Eine Plattform erstellt zwar nicht selbst KI-generierte Inhalte, kann aber Einfluss darauf nehmen, ob Authentizitätsinformationen den Nutzern weiterhin zur Verfügung stehen.

GenAI-Hosting-Plattformen sehen sich zusätzlichen Einschränkungen gegenüber

Ab dem 1. Januar 2027 dürfen GenAI-Hosting-Plattformen wissentlich keine Systeme mehr zur Verfügung stellen, die die im Gesetz vorgeschriebenen Offenlegungen nicht enthalten.

Dies führt zu einem weiteren Kontrollpunkt bei der Verbreitung der generativen KI-Technologie.

Hersteller von Aufnahmegeräten schließen sich dem Rahmenwerk an

Ab dem 1. Januar 2028 müssen bestimmte Erfassungsgeräte, die erstmals in Kalifornien für den Verkauf hergestellt werden, latente Offenlegungen unter den gesetzlich festgelegten Bedingungen unterstützen.

Ziel ist es, die Herkunftsinformationen von Inhalten zu verbessern, die über Geräte erfasst werden, und zwar nicht nur von Inhalten, die von KI generiert werden.

AB 853 erkennt an, dass die Authentizität von Inhalten von einem Ökosystem abhängt. Generatoren, Hosting-Dienste, Vertriebsplattformen und Aufnahmegeräte spielen jeweils unterschiedliche Rollen.

Welche Strafen drohen bei einem Verstoß gegen das Gesetz?

Das kalifornische KI-Transparenzgesetz sieht eine zivilrechtliche Strafe von $5.000 pro Verstoß, durchsetzbar durch zivilrechtliche Klagen des kalifornischen Generalstaatsanwalts, eines Stadtanwalts oder eines Bezirksanwalts.

Gemäß den geltenden Bestimmungen wird jeder Tag, an dem ein betroffener Anbieter, eine große Online-Plattform oder ein Hersteller von Erfassungsgeräten gegen die Bestimmungen verstößt, als ein separater Verstoß behandelt.

Das Gesetz sieht außerdem spezifische Durchsetzungsmaßnahmen gegen Drittlizenznehmer vor, die ein lizenziertes GenAI-System nach dem Entzug der Lizenz gemäß den gesetzlichen Bestimmungen weiterhin nutzen.

Diese Bestimmungen sollten nicht als automatische Strafen für jedes fehlende Metadatenfeld oder jeden Fall, in dem die Herkunft von Inhalten nicht überprüft werden kann, ausgelegt werden.

Die Haftung hängt von der jeweiligen gesetzlichen Pflicht, dem betroffenen Unternehmen, den Tatsachen und dem Vollstreckungsverfahren ab.

Für Organisationen besteht die praktische Priorität darin, die geltenden Verpflichtungen zu verstehen und Prozesse zur Identifizierung und Behebung von Kontrollfehlern einzurichten.

Wie sollten sich Organisationen auf die kalifornischen KI-Transparenzvorschriften vorbereiten?

Ein sinnvolles Vorbereitungsprogramm beginnt mit der Identifizierung der Rolle der Organisation im Content-Ökosystem und der Systeme, die relevante digitale Inhalte erstellen, modifizieren, erkennen, speichern oder verteilen.

Wie BigID die Bereitschaft zur KI-Transparenz unterstützt

Der California AI Transparency Act befasst sich mit der Authentizität und Offenlegung von Inhalten. BigID unterstützt einen damit verbundenen, aber eigenständigen Teil der Herausforderung: das Verständnis und die Steuerung der beteiligten KI-Systeme und Datenumgebungen in Unternehmen.

BigID hilft Organisationen dabei, KI-Assets zu entdecken, sensible Informationen zu identifizieren, Zugriffs- und Datenbeziehungen zu verstehen und die Governance-Aufsicht zu stärken.

• KI-Asset-Erkennung: Identifizieren Sie generative KI-Systeme, Anwendungen, Modelle und Schatten-KI in Unternehmensumgebungen.
• Ermittlung sensibler Daten: Persönliche und regulierte Informationen in relevanten Datenspeichern und Arbeitsabläufen finden und klassifizieren.
• Datenherkunft: Datenursprünge und -bewegungen in vernetzten Unternehmensumgebungen verstehen.
• KI-Zugriffssteuerung: Untersuchen Sie den Zugang von Menschen und Tieren zu sensiblen Informationen.
• KI-Risikomanagement: Priorisieren Sie die Risiken anhand von Sensibilität, Zugriff, Richtlinien und Geschäftskontext.
• Nachweise zur Regierungsführung: Unterstützung bei Bedarfsanalysen, Verantwortlichkeiten, Abhilfemaßnahmen und Überwachung der Einhaltung von Vorschriften.

Mithilfe dieser Funktionen können Unternehmen ihre KI-Präsenz und die mit den jeweiligen Systemen verbundenen Datenrisiken besser verstehen.

Allerdings sind Content-Watermarking, gesetzlich vorgeschriebene KI-Erkennungstools und Herkunftsnachweise separate technische Funktionen. Organisationen sollten diese Funktionen direkt evaluieren, anstatt anzunehmen, dass eine allgemeine KI-Governance-Plattform sie bereitstellt.

Der effektivste Ansatz verbindet spezialisierte Kontrollen zur Inhaltsauthentizität mit umfassenderen Prozessen zur KI-Erkennung, Datensicherheit, zum Datenschutz und zur Governance.

Warum KI-Transparenz kein Silo sein sollte

Der kalifornische AI Transparency Act ist Teil eines wachsenden Regulierungsrahmens, der sich mit künstlicher Intelligenz, digitaler Authentizität, Datenschutz und Verantwortlichkeit befasst.

Organisationen müssen gegebenenfalls auch andere Gesetze berücksichtigen, die sich mit KI-generierter Kommunikation, synthetischen Medien, automatisierten Entscheidungen, Datenschutz und Verbrauchertransparenz befassen.

Diese Anforderungen sind nicht austauschbar.

Die Pflicht zur Offenlegung der Inhaltsherkunft unterscheidet sich von der Anforderung einer KI-Risikobewertung. Die Offenlegung synthetischer Medien unterscheidet sich von einer Datenschutzerklärung. Ein maschinenlesbares Authentizitätssignal unterscheidet sich von einem KI-Inventar eines Unternehmens.

Die zugrundeliegenden Governance-Prozesse können jedoch wichtige Informationen austauschen.

Sicherheitsteams müssen KI-Systeme und Zugriffsrechte verstehen. Datenschutzteams benötigen Einblick in personenbezogene Daten. Compliance-Teams müssen die anwendbaren Gesetze ermitteln. Technische Teams müssen die relevanten Offenlegungsfunktionen implementieren und testen.

Eine gemeinsame Grundlage erleichtert die Koordination dieser Verantwortlichkeiten, ohne dass unterschiedliche Gesetze in einer einzigen Checkliste zusammengefasst werden.

Entdecken Sie BigIDs Globaler KI-Regulierungs-Tracker Die regulatorischen Entwicklungen im Bereich KI in Kalifornien, anderen US-Bundesstaaten und internationalen Rechtsordnungen zu verfolgen.

Kalifornisches KI-Transparenzgesetz: Häufig gestellte Fragen

Was ist der kalifornische KI-Transparenzgesetz?

Der California AI Transparency Act, eingeführt durch SB 942 und geändert durch AB 853, legt Anforderungen hinsichtlich der Identifizierung und Herkunft bestimmter KI-generierter Bilder, Videos und Audiodateien fest. Betroffene Organisationen müssen je nach ihrer Rolle Offenlegungsmöglichkeiten, KI-Erkennungswerkzeuge oder Kontrollen zur Herkunftsnachverfolgung bereitstellen.

Wann trat der California AI Transparency Act in Kraft?

Die Kernanforderungen des Gesetzes traten am 2. August 2026 in Kraft. Zusätzliche Bestimmungen sind für den 1. Januar 2027 für bestimmte große Online-Plattformen und GenAI-Hosting-Plattformen sowie für den 1. Januar 2028 für bestimmte Hersteller von Erfassungsgeräten vorgesehen.

Wer gilt gemäß SB 942 als erfasster Leistungserbringer?

Als erfasster Anbieter gilt eine Person oder Organisation, die ein generatives KI-System mit mehr als einer Million monatlichen Besuchern oder Nutzern entwickelt, programmiert oder anderweitig bereitstellt, das in Kalifornien öffentlich zugänglich ist. Das Gesetz legt außerdem separate Anforderungen für andere qualifizierte Einrichtungen fest.

Ist nach dem kalifornischen KI-Transparenzgesetz die Verwendung von Wasserzeichen erforderlich?

Das Gesetz schreibt für betroffene Anbieter bestimmte Möglichkeiten zur offensichtlichen und verdeckten Offenlegung vor. Verdeckte Offenlegungen umfassen maschinell erfassbare Herkunftsinformationen, die den gesetzlichen Kriterien entsprechen. Organisationen sollten nicht davon ausgehen, dass jedes sichtbare Wasserzeichen oder Metadatenfeld diese Anforderungen automatisch erfüllt.

Worin besteht der Unterschied zwischen manifesten und latenten KI-Offenlegungen?

Eine offensichtliche Offenlegung soll für eine Person leicht erkennbar und verständlich sein, beispielsweise durch ein sichtbares, KI-generiertes Etikett. Eine latente Offenlegung ist maschinell erkennbar und vermittelt – vorbehaltlich geltender technischer Anforderungen – bestimmte Herkunftsinformationen über den Ursprung oder die Veränderung von Inhalten.

Gilt das Gesetz auch für KI-generierte Texte?

Das Gesetz definiert generative KI so weit, dass sie auch Systeme umfasst, die Text erzeugen. Die wichtigsten Anforderungen an die Offenlegung und Erkennung von Inhalten beziehen sich jedoch speziell auf Bilder, Videos, Audiodateien und Kombinationen dieser Formate. Andere Gesetze können separate Anforderungen für KI-generierte Texte oder Kommunikationen festlegen.

Welche Strafen drohen bei Verstößen gegen den California AI Transparency Act?

Das Gesetz sieht zivilrechtliche Strafen von 1.040 £ pro Verstoß vor. Gemäß den geltenden Bestimmungen wird jeder Tag, an dem bestimmte betroffene Einrichtungen gegen das Gesetz verstoßen, als separater Verstoß gewertet. Die Durchsetzung kann durch den kalifornischen Generalstaatsanwalt, Stadtanwälte oder Kreisrechtsberater erfolgen.

Verpflichtet das Gesetz Organisationen zum Schutz personenbezogener Daten, die von KI-Erkennungstools verwendet werden?

Ja. Das Gesetz untersagt es den betroffenen Anbietern, personenbezogene Daten von Nutzern von Erkennungstools zu erheben oder zu speichern, mit einer begrenzten Ausnahme für Feedback-Anfragen, die der Einwilligung der Nutzer bedürfen. Es beschränkt außerdem die Speicherung von übermittelten Inhalten und Herkunftsdaten.

Wie kann BigID Organisationen bei der Vorbereitung unterstützen?

BigID unterstützt Unternehmen bei der Ermittlung von KI-Assets, der Identifizierung sensibler Daten, dem Verständnis von Zugriff und Herkunft, der Bewertung datenbezogener KI-Risiken und der Unterstützung der Governance-Aufsicht. Diese Funktionen ergänzen spezialisierte Technologien zur Inhaltsauthentizität, ersetzen jedoch nicht gesetzlich vorgeschriebene Wasserzeichen, Offenlegungspflichten oder KI-Erkennungsfunktionen.

Quellen und weiterführende Literatur

• Kalifornische Legislative: SB 942, California AI Transparency Act
• Kalifornische Legislative: AB 853, Änderungen des kalifornischen Gesetzes zur Transparenz künstlicher Intelligenz
• Koalition für Herkunft und Authentizität von Inhalten
• BigID Global AI Regulation Tracker

Dieser Artikel dient allgemeinen Informationszwecken und stellt keine Rechtsberatung dar. Organisationen sollten sich hinsichtlich der geltenden kalifornischen Anforderungen, gesetzlichen Definitionen, Ausnahmen und technischen Umsetzungspflichten von qualifizierten Rechtsberatern beraten lassen.