Während sich der Staub auf Präsident Bidens Durchführungsverordnung zur künstlichen Intelligenz (KI) Angesichts der sicheren und vertrauenswürdigen Entwicklung und Nutzung künstlicher Intelligenz fragen sich viele Unternehmen, ob dies nur für Bundesbehörden gilt oder auch für sie konkrete Auswirkungen hat. Und wenn ja, was erwartet sie in den kommenden Monaten und welche Auswirkungen hat dies auf ihre aktuelle und geplante KI-Einführung?
Die Executive Order zur KI verstehen
Die jüngste KI-Verordnung markiert einen wichtigen Schritt hin zu einer ethischen KI-Implementierung. Diese Richtlinie zielt darauf ab, Richtlinien und Standards für die Entwicklung, den Einsatz und die Steuerung von KI-Technologien festzulegen. Ergänzend zur KI-Verordnung wurde AI-Memo des Office of Management and Budget (OMB) bietet Bundesbehörden detaillierte Leitlinien zum Einsatz von KI. Das KI-Memo, das noch zur öffentlichen Kommentierung offen ist, soll in Verbindung mit der Executive Order gelesen werden. Das Memo legt verbindliche Vorgaben für Bundesbehörden bei der Einführung von KI-Technologien fest.
Zu den weiteren Mandaten des AI-Memos gehören:
- KI-Governance: Es ist die Ernennung von Chief AI Officers und AI Governance Boards sowie eine erweiterte Berichterstattung über Risiken und Minderungsmaßnahmen für den Einsatz von KI-Technologien erforderlich.
- Förderung verantwortungsvoller KI-Innovationen: Förderung von Investitionen in den Einsatz von KI durch Agenturen, von der Verbesserung der KI-Infrastruktur bis hin zur Personalentwicklung.
- Risikomanagement durch den Einsatz von KI: Fordern Sie die Umsetzung von KI-Schutzmaßnahmen zum Schutz vor Voreingenommenheit und Diskriminierung, definieren Sie KI-Anwendungen, bei denen davon ausgegangen wird, dass sie sich auf Rechte und Sicherheit auswirken, und geben Sie Empfehlungen zum Risikomanagement bei der Beschaffung von KI durch den Bund.
Auswirkungen für Unternehmen
Für Unternehmen könnte es in vielerlei Hinsicht zu Beeinträchtigungen kommen, unter anderem:
- Technologieunternehmen entwickeln KI-Technologie mit doppeltem Verwendungszweck muss die Bundesregierung über die Schulung dieser Modelle informieren und die Ergebnisse aller Sicherheitstests mitteilen. Die präsidiale Autorität leitet sich hierbei aus dem Defense Production Act ab, da sich „Dual-Use“ auf Technologien bezieht, die sowohl zivil als auch militärisch eingesetzt werden können.
- Bundesauftragnehmer, die KI-Technologien entwickeln oder nutzen Möglicherweise müssen sie die neuen Standards und Vorschriften einhalten, die im Rahmen der Executive Order festgelegt wurden. Dies könnte die Einhaltung von Richtlinien für den ethischen Einsatz von KI, Datenschutz, Cybersicherheit und die Vermeidung von Vorurteilen umfassen. Auftragnehmer müssen möglicherweise Folgenabschätzungen ihrer KI-Systeme durchführen, insbesondere hinsichtlich der Auswirkungen auf Sicherheit und Rechte.
- Das Nationale Institut für Standards und Technologie (NIST) Dem NIST wurden spezifische Rollen und Verantwortlichkeiten im Zusammenhang mit der Entwicklung und Implementierung von Standards für KI-Technologien zugewiesen. Neben der Entwicklung von Standards kann das NIST auch Leitlinien und Best Practices für die Sicherheit von KI für verschiedene Interessengruppen bereitstellen, darunter Bundesbehörden, Unternehmen des privaten Sektors und akademische Einrichtungen.
- Techniken zum Schutz der Privatsphäre werden in der Aufforderung des Präsidenten an den Kongress hervorgehoben, eine Gesetzgebung zu erlassen, die sich auf alle Amerikaner erstreckt, wobei ein besonderer Schwerpunkt auf dem Schutz personenbezogener Daten liegt, die zum Trainieren von KI-Systemen verwendet werden.
Was sollten Unternehmen tun?
Obwohl ein umfassender Datenschutz auf Bundesebene in naher Zukunft unwahrscheinlich erscheint, schafft die Verordnung einen Rahmen, der Unternehmen, die bestimmte KI-Technologien entwickeln oder Dienstleistungen für die Bundesregierung erbringen, verbindliche Vorgaben macht. NIST-Standards wurden bereits häufig vom privaten Sektor übernommen und werden diesen voraussichtlich auch künftig beeinflussen. Aus der Verordnung und dem OMB-Memo geht klar hervor, dass der Schutz der Amerikaner vor Voreingenommenheit und potenziellem Missbrauch persönlicher Daten ein zentrales Thema ist.
Bei der Einführung von KI-Technologien sollten Unternehmen:
- Verstehen Sie, was sensible und persönliche Informationen wird zum Trainieren von KI-Technologien verwendet.
- Verwenden Sie nach Möglichkeit synthetische oder anonymisierte Daten anstelle personenbezogener Informationen.
- Gehen Sie beim Trainieren von KI-Modellen besonders sorgfältig vor, wenn Sie „sensible“ Kategorien personenbezogener Daten verwenden, die auf Voreingenommenheit schließen lassen, wie etwa rassische oder ethnische Herkunft, religiöse oder philosophische Überzeugungen, Gewerkschaftsmitgliedschaft, Gesundheitszustand und Sexualleben oder sexuelle Orientierung.
- Stellen Sie klare Methoden bereit, mit denen Benutzer der Verwendung ihrer Daten in KI-Modellen widersprechen können, und richten Sie Mechanismen ein, um Zustimmungsregeln hinsichtlich der Verwendung personenbezogener Daten durchzusetzen.
Wie BigID helfen kann
KI und große Sprachmodelle (LLMs) wie insbesondere ChatGPT, verlassen sich stark auf unstrukturierte Daten für Schulungszwecke. BigID hat die Fähigkeit, Identifizierung persönlicher und sensibler Informationen über strukturierte und unstrukturierte Datenquellen. BigIDs Korrelationstechnologie findet nicht nur personenbezogene Daten, sondern auch die Personen, die diese Daten beschreiben. Mit BigID können Unternehmen:
- Entdecken Sie persönliche und vertrauliche Informationen in KI-Trainingssätzen.
- Identifizieren und kennzeichnen Sie bestimmte Kategorien von Informationen, einschließlich sensibler personenbezogener Daten (SPI).
- Ermöglichen Sie Einzelpersonen, sich abzumelden und die Einwilligung über ein Self-Service-Portal zu verwalten.
- Verstehen Sie die spezifischen Personen, deren Daten für das KI-Training verwendet werden.
Vereinbaren Sie eine Demo mit unseren Experten um zu sehen, wie BigID Ihrem Unternehmen dabei helfen kann, KI zu steuern und Risiken zu reduzieren.
Autor
