Zum Inhalt springen

Regeln für KI-Agenten Sie treffen ein, und sie beginnen mit Zugang

Bisher konzentrierte sich die KI-Regulierung hauptsächlich auf Modelle: deren Training, Offenlegungspflichten der Entwickler und verbotene Anwendungsfälle. Diese Woche wandten sich zwei Regierungen einem praktischeren Aspekt zu: den Zugriffsmöglichkeiten von KI-Systemen, sobald diese in einem Unternehmen oder auf einem Gerät im Einsatz sind.

Im Vereinigten Königreich wurde dem Gesetzentwurf zur Cybersicherheit und Resilienz eine Klausel hinzugefügt. würde es Ministern ermöglichen, die Art und Weise des Einsatzes von agentenbasierter KI zu regulieren. In China veröffentlichte das Industrieministerium eine Hinweis zu KI-Agenten, die auf Smartphones, Tablets und Wearables vorinstalliert sind. Die beiden Dokumente unterscheiden sich in Umfang und Stil, aber sie weisen auf dasselbe hin.

DAS WICHTIGSTE

Regulierung von KI-Agenten: Wichtigste Erkenntnisse

  • Die Regulierung von KI verlagert sich hin zum Agentenzugriff.
    Neue Entwicklungen in Großbritannien und China konzentrieren sich darauf, worauf KI-Agenten Zugriff haben, wie sie funktionieren und wer für ihre Handlungen verantwortlich ist.
  • Großbritannien erwägt eine stärkere Aufsicht.
    Zu den vorgeschlagenen Maßnahmen gehören die Überwachung von Agenten, die Meldung von Vorfällen, die Sicherung von Beweismitteln und Nachbesprechungen von Vorfällen.
  • China befasst sich mit Agentenberechtigungen auf Geräteebene.
    Das Ministerium hat Erwartungen hinsichtlich der Identität des Agenten, der Zustimmung zur Anwendung, der Berechtigungen und der Sicherheit auf unterstützten Endgeräten dargelegt.
  • Keine der beiden Entwicklungen begründet unmittelbare Verpflichtungen.
    Die Maßnahmen Großbritanniens erfordern weitere gesetzgeberische Schritte, während in der chinesischen Mitteilung kein Datum des Inkrafttretens angegeben wird.
  • Agenteninventare sind ein praktischer Ausgangspunkt.
    Organisationen sollten ihre KI-Agenten, die Identitäten, unter denen sie agieren, und die sensiblen Informationen, auf die sie zugreifen können, identifizieren.
  • Der Datenkontext ermöglicht die Steuerung des KI-Zugriffs.
    BigID hilft Organisationen dabei, sensible Daten mit Identitäten, Berechtigungen und Zugriffsrechten zu verknüpfen, um die Zugriffssteuerung für KI zu unterstützen.

Agenten machen aus KI-Richtlinien ein Zugangsproblem

Ein Agent hat keinen eigenen Zugriff. Er agiert mit den Berechtigungen dessen, der ihn gestartet hat. Daher ist eine Regel für Agenten in der Praxis eine Zugriffsregel: Auf welche Daten ein Agent zugreifen kann, was er mit diesen Daten macht und ob dies später nachweisbar ist. Sicherheits- und Datenschutzteams werden gefragt sein, und ein Team, das seine Agenten noch nie aufgelistet hat, kann nicht schnell antworten.

Großbritannien möchte einen Rekord aufstellen, wenn ein Agent außer Kontrolle gerät.

Die Klausel wurde bei der dritten Lesung des Gesetzentwurfs im Oberhaus eingebracht. Sie würde es dem Staatssekretär ermöglichen, die NIS-Verordnung und die Regierungsrichtlinien zu ändern. Datenblatt Die Behörde beabsichtigt, vier Maßnahmen zu erörtern: Sicherheitsanforderungen wie die Überwachung der Handlungen von Agenten und die Bewertung des Agentenrisikos, die Benachrichtigung anderer Organisationen über einen betroffenen Agenten, die Sicherung von Beweismitteln darüber, wie ein Agent einen Vorfall verursacht haben könnte, und von Ministern geleitete Überprüfungen nach dem Vorfall.

Im Fokus stehen Vorfälle, bei denen Betreiber “KI-Agenten nicht angemessen überwachen oder steuern können”. Laut „The Register“ umfasst der wahrscheinliche Geltungsbereich Betreiber kritischer Infrastrukturen, Managed Service Provider und Cloud-Anbieter, während das Factsheet darauf hinweist, dass der detaillierte Geltungsbereich noch ausgearbeitet wird.

China will, dass Agenten identifiziert und an dem Gerät autorisiert werden.

Die Mitteilung des Ministeriums vom 24. Oktober (veröffentlicht am 6. November) betrifft Smartphones, Tablets und Wearables, die mit einem vorinstallierten Agenten ausgeliefert werden. Agentenentwickler müssen die Kompatibilität mit jedem Gerät sicherstellen und Berechtigungen, Kommunikation, Netzwerk- und Datensicherheit, Benutzerrechte und Aufgabenausführung verwalten. App-Entwickler müssen angeben, ob Agenten ihre Apps aufrufen dürfen; ein Agent darf sich ohne diese Zustimmung nicht in eine App einschleusen. Für drahtlose Aktualisierungen bestehender Agenten ist vor der Veröffentlichung ein Aktualisierungsplan und eine Expertenbewertung erforderlich.

Die Agenten sollten außerdem einen eindeutigen Identifikationscode mit sich führen, und das Ministerium plant den Aufbau eines vertrauenswürdigen Agentenidentitätssystems.

Warum der Zeitpunkt wichtig ist, obwohl keine Vorschriften gelten

Keines der Dokumente begründet heute Verpflichtungen. Die britischen Maßnahmen würden nach königlicher Zustimmung, Konsultation und parlamentarischer Genehmigung durch Sekundärrecht in Kraft treten, und die Regierung hat den Begriff “Kontrollverlust” noch nicht definiert. Chinas Mitteilung nennt kein Datum des Inkrafttretens.

Diese Lücke birgt eine Chance. Die Definitionen sind noch offen, und Organisationen, die ihre tatsächliche Vorgehensweise bei der Agentenverwaltung beschreiben können, werden in einer Konsultation mehr Einfluss haben als jene, die auf den endgültigen Text warten. Die ICO-Richtlinien Aufruf zur Einreichung von Beweismaterial zu agentenbasierter KI und personenbezogenen Daten Die Frist für alle, die sich aus britischer Sicht äußern möchten, endet am 20. November. Wir gehen davon aus, dass auch andere Aufsichtsbehörden ähnliche Fragen stellen werden, da diese sich direkt aus der Arbeitsweise von Maklern ergeben. Die Erstellung eines Maklerverzeichnisses ist eine langwierige und wenig glamouröse Aufgabe, und es ist einfacher, damit zu beginnen, bevor eine Frist besteht.

Wo soll ich anfangen?

Erstellen Sie zunächst eine Liste aller im Einsatz befindlichen Agenten, Copiloten und Workflow-Automatisierungen, einschließlich derer, die Teams ohne Ticket eingerichtet haben. Erfassen Sie für jeden Agenten die zugehörige Identität und die sensiblen Daten, auf die diese Identität zugreifen kann. Agenten können breiten Zugang erben vom Mitarbeiter- oder Servicekonto, das sie initiiert hat, sodass in der zweiten Spalte meist die Überraschungen auftauchen.

Beschränken Sie anschließend die Zugriffsrechte jedes Beamten auf das für seine Aufgabe Notwendige. Entscheiden Sie dann, welche Aufzeichnungen Sie zur Rekonstruktion eines Vorfalls benötigen, im Sinne des britischen Konzepts der Beweissicherung, und wo diese aufbewahrt werden sollen.

Wie BigID hilft

BigIDs Verwaltung des Datenzugriffs BigID verknüpft Identitäten, Berechtigungen, Eigentumsverhältnisse, Aktivitäten und Datensensibilität und ermöglicht es Teams, den Zugriff von KI-Agenten, Copiloten und autonomen Workflows zu steuern. Im Bereich der Sicherheitsarchitektur bietet BigID entdeckt sanktionierte und nicht sanktionierte Models und Agenten, Das System überwacht die Daten kontinuierlich und ermöglicht es Teams, die Zugriffsrechte von Copiloten und Assistenten festzulegen, bevor diese die Daten anzeigen. In der Praxis erhalten Sie so stets die Antwort auf die Frage, welche Agenten auf welche sensiblen Daten zugreifen dürfen, und können den Zugriff einschränken oder widerrufen, wenn die Antwort unangenehm ist.

Eine Frage für Ihre nächste Rezension

Wenn eine Aufsichtsbehörde morgen alle KI-Agenten in Ihrem Unternehmen und die sensiblen Daten, auf die jeder einzelne zugreifen kann, anfordern würde, wie lange würde es dauern, diese Liste zu erstellen?

Häufig gestellte Fragen zur Regulierung von KI-Agenten

Was ist die Regulierung von KI-Agenten?

Die Regulierung von KI-Agenten umfasst Regeln und Aufsichtsmechanismen, die das Funktionieren autonomer KI-Systeme, ihren Informationszugriff und ihre Aktionen regeln. Neuere Vorschläge befassen sich zunehmend mit Agentenidentitäten, Berechtigungen, Überwachung, Verantwortlichkeit und dem Schutz sensibler Daten.

Welche neuen Vorschriften gelten für KI-Agenten in Großbritannien und China?

Das Vereinigte Königreich hat im Rahmen seines Gesetzes zur Cybersicherheit und -resilienz Maßnahmen vorgeschlagen, die Anforderungen an die Überwachung von KI-Agenten, die Meldung von Vorfällen, die Beweissicherung und die Nachbereitung von Vorfällen einführen könnten. Das chinesische Industrieministerium hat eine Mitteilung zu Identität, Berechtigungen, Anwendungszustimmung und Sicherheit von auf Mobilgeräten vorinstallierten KI-Agenten veröffentlicht. Beide Entwicklungen begründen jedoch keine unmittelbaren Verpflichtungen im Sinne dieses Artikels.

Wie können Organisationen den Zugriff von KI-Agenten auf sensible Daten kontrollieren?

Organisationen sollten KI-Agenten inventarisieren, das jeweilige Benutzerkonto oder den Dienstkonto identifizieren, die sensiblen Informationen klassifizieren, auf die diese Identitäten zugreifen können, und Berechtigungen nach dem Prinzip der minimalen Rechtevergabe anwenden. Kontinuierliche Überwachung, Zugriffsprüfungen und angemessene Beschränkungen der Agentenaktionen tragen dazu bei, unberechtigte Zugriffe zu reduzieren.

Warum ist die Identität von KI-Agenten wichtig für Sicherheit und Compliance?

Die Identität von KI-Agenten hilft Organisationen festzustellen, welcher Agent eine Aktion ausgeführt hat, in wessen Auftrag er gehandelt hat und auf welche Informationen er zugreifen konnte. Die Verknüpfung der Agentenidentität mit Berechtigungen, Datensensibilität und Aktivitätsprotokollen unterstützt die Verantwortlichkeit, die Untersuchung von Vorfällen und die Zugriffskontrolle.

Wie unterstützt BigID Organisationen bei der Steuerung des Zugriffs auf KI-Agenten?

BigID unterstützt Unternehmen dabei, sensible Daten zu ermitteln, Identitäts- und Berechtigungsbeziehungen zu verstehen und übermäßigen oder unangemessenen Zugriff in den unterstützten Umgebungen zu erkennen. Seine Datenzugriffsverwaltung, Management von Datensicherheitsmaßnahmen (DSPM) und KI-Sicherheit und -Governance Die Funktionen helfen Teams dabei, einzuschätzen, welche Agenten und Copiloten Zugriff auf sensible Informationen haben, Prioritäten für die Offenlegung festzulegen und Zugriffsüberprüfungen sowie Abhilfemaßnahmen zu unterstützen.

FORSCHUNG & LEITFADEN

Quellen & Redaktioneller Haftungsausschluss

Dieser Artikel bezieht sich auf Regierungsveröffentlichungen und Berichte über die Aufsicht über neu entstehende KI-Agenten im Vereinigten Königreich und in China.

Redaktioneller Haftungsausschluss

Dieser Artikel dient allgemeinen Informationszwecken und stellt keine Rechts- oder Regulierungsberatung dar. Die im Vereinigten Königreich besprochenen Maßnahmen sind Vorschläge und unterliegen weiteren Gesetzgebungs- und Konsultationsprozessen. Die Mitteilung des chinesischen Ministeriums nennt kein Datum des Inkrafttretens. Regulatorische Anforderungen, Umsetzungszeitpläne und Durchsetzungserwartungen können sich ändern. Organisationen sollten bei der Bewertung ihrer geltenden Verpflichtungen offizielle Regierungsveröffentlichungen und qualifizierte Rechtsberatung konsultieren.

Inhalt

Datenzugriffsverwaltung neu gedacht für das KI-Zeitalter

Laden Sie das Whitepaper herunter, um zu erfahren, was ein integrierter DAG im Zeitalter der KI tatsächlich erfordert – und wie man dorthin gelangt.

Laden Sie das Whitepaper zur KI-Governance herunter