Jusqu'à présent, la plupart des réglementations relatives à l'IA ont porté sur les modèles : leur entraînement, les informations que les développeurs doivent divulguer et les utilisations interdites. Cette semaine, deux gouvernements se sont penchés sur un aspect plus concret : les actions autorisées pour un agent d'IA une fois déployé au sein d'une entreprise ou sur un appareil.
Au Royaume-Uni, une clause a été ajoutée au projet de loi sur la cybersécurité et la résilience. permettrait aux ministres de réglementer le déploiement de l'IA agentive. En Chine, le ministère de l'Industrie a publié un Avis concernant les agents d'IA préinstallés sur les téléphones, les tablettes et les objets connectés. Les deux documents diffèrent par leur portée et leur style, mais ils pointent vers la même chose.
Les agents transforment la politique d'IA en un problème d'accès
Un agent ne dispose pas d'un accès propre. Il agit avec les autorisations de l'entité qui l'a lancé. Par conséquent, toute règle concernant les agents est en pratique une règle relative à l'accès : quelles données un agent peut consulter, ce qu'il en a fait et si l'on peut le prouver a posteriori. Les équipes chargées de la sécurité et de la protection de la vie privée seront interrogées, et une équipe qui n'a jamais répertorié ses agents ne pourra pas répondre rapidement.
Le Royaume-Uni souhaite qu'un dossier soit établi lorsqu'un agent dépasse les bornes.
La clause a été introduite lors de la troisième lecture du projet de loi à la Chambre des lords. Elle permettrait au secrétaire d'État de modifier le règlement NIS, et le gouvernement fiche d'information Elle indique qu'elle entend mener des consultations sur quatre mesures : les exigences en matière de sécurité, telles que la surveillance des actions des agents et l'évaluation des risques liés à ces agents, la notification aux autres organisations de la présence d'un agent concerné, la conservation des preuves de la manière dont un agent aurait pu causer un incident, et les examens post-incident menés par les ministres.
L’objectif est de prévenir les incidents où les opérateurs sont “ incapables de surveiller ou de contrôler correctement les agents d’IA ”. Selon The Register, le champ d’application probable inclut les opérateurs de services essentiels, les fournisseurs de services gérés et les fournisseurs de cloud, tandis que la fiche d’information précise que le périmètre détaillé reste à définir.
La Chine souhaite que les agents soient identifiés et autorisés à utiliser l'appareil
L’avis du ministère, daté du 24 octobre et publié le 6 novembre, concerne les téléphones, les tablettes et les objets connectés livrés avec un agent préinstallé. Les développeurs d’agents doivent vérifier la compatibilité avec chaque appareil et gérer les autorisations, les communications, la sécurité du réseau et des données, les droits d’utilisateur et l’exécution des tâches. Les développeurs d’applications doivent indiquer si les agents sont autorisés à exécuter leurs applications, et un agent ne peut s’intégrer de force à une application sans ce consentement. Les mises à jour à distance des agents existants doivent faire l’objet d’un plan de mise à niveau et d’une évaluation par des experts avant leur déploiement.
Les agents devront également être munis d'un code d'identification unique, et le ministère prévoit de mettre en place un système d'identification des agents fiable.
Pourquoi le timing est important même si rien n'est en vigueur
Aucun de ces documents ne crée d'obligations immédiatement. Les mesures britanniques entreraient en vigueur par voie de législation secondaire après la sanction royale, suite à des consultations et à l'approbation du Parlement, et le gouvernement n'a pas encore défini la notion de “ perte de contrôle ”. La notification chinoise ne précise aucune date d'entrée en vigueur.
Cette lacune représente une opportunité. Les définitions restent ouvertes, et les organisations capables de décrire concrètement le fonctionnement de leurs agents auront davantage à dire lors d'une consultation que celles qui attendent la version finale. L'ICO appel à contributions sur l'IA agentive et les données personnelles La date limite pour soumettre des commentaires du côté britannique est le 20 novembre. Nous prévoyons également que d'autres organismes de réglementation poseront des questions similaires, car elles découlent directement du fonctionnement des agents. La gestion d'un portefeuille d'agents est un travail long et fastidieux, et il est plus facile de commencer avant qu'une date limite ne soit fixée.
Par où commencer
Commencez par dresser la liste de tous les agents, copilotes et automatisations de flux de travail utilisés, y compris ceux configurés par les équipes sans ticket. Pour chacun, notez l'identité sous laquelle il s'exécute et les données sensibles auxquelles cette identité peut accéder. Les agents peuvent hériter d'un large accès Du compte employé ou de service qui les a lancés, c'est donc dans cette deuxième colonne que les surprises ont tendance à apparaître.
Ensuite, limitez l'accès de chaque agent aux seules ressources nécessaires à sa tâche. Puis, déterminez les documents dont vous auriez besoin pour reconstituer un incident, dans l'esprit du principe de conservation des preuves en vigueur au Royaume-Uni, et définissez leur lieu de stockage.
Comment BigID vous aide
BigID's gouvernance de l'accès aux données BigID connecte les identités, les autorisations, la propriété, l'activité et la sensibilité des données, et permet aux équipes de contrôler ce à quoi les agents d'IA, les copilotes et les flux de travail autonomes peuvent accéder. Côté sécurité, BigID découvre des modèles et des agents autorisés et non autorisés, Le système surveille en permanence ces données et permet aux équipes d'ajuster les informations que les copilotes et assistants peuvent indexer avant leur diffusion. Concrètement, cela permet de savoir en temps réel “ quels agents peuvent accéder à quelles données sensibles ” et de révoquer ou de restreindre l'accès si nécessaire.
Une question pour votre prochaine évaluation
Si un organisme de réglementation demandait demain la liste de tous les agents d'IA présents dans votre entreprise et des données sensibles auxquelles chacun peut accéder, combien de temps faudrait-il pour établir cette liste ?
FAQ sur la réglementation des agents d'IA
Qu’est-ce que la réglementation des agents IA ?
La réglementation des agents d'IA concerne les règles et la supervision qui encadrent le fonctionnement des systèmes d'IA autonomes, leur accès à l'information et leurs actions. Les propositions émergentes portent de plus en plus sur l'identité des agents, leurs autorisations, leur surveillance, leur responsabilité et la protection des données sensibles.
Quelles sont les nouvelles réglementations concernant les agents d'IA au Royaume-Uni et en Chine ?
Le Royaume-Uni a proposé, dans le cadre de son projet de loi sur la cybersécurité et la résilience, des mesures susceptibles d'instaurer des obligations en matière de surveillance des agents d'IA, de notification des incidents, de conservation des preuves et d'analyses post-incident. Le ministère chinois de l'Industrie a publié une note relative à l'identité, aux autorisations, au consentement aux applications et à la sécurité des agents d'IA préinstallés sur les appareils mobiles. Aucune de ces mesures n'établit d'obligations immédiates telles que décrites dans cet article.
Comment les organisations peuvent-elles contrôler l'accès des agents d'IA aux données sensibles ?
Les organisations doivent recenser les agents d'IA, identifier le compte utilisateur ou de service sous lequel chacun opère, classifier les informations sensibles auxquelles ces identités peuvent accéder et appliquer le principe du moindre privilège. Une surveillance continue, des contrôles d'accès et des restrictions appropriées sur les actions des agents contribuent à réduire les risques d'exposition non autorisée.
Pourquoi l'identité des agents IA est-elle importante pour la sécurité et la conformité ?
L'identification des agents IA permet aux organisations de déterminer quel agent a effectué une action, sous l'autorité de qui il a agi et à quelles informations il avait accès. L'association de l'identité des agents aux permissions, à la sensibilité des données et aux historiques d'activité facilite la responsabilisation, les enquêtes sur les incidents et la gouvernance des accès.
Comment BigID aide-t-il les organisations à gérer l'accès aux agents d'IA ?
BigID aide les organisations à découvrir les données sensibles, à comprendre les relations entre identités et permissions, et à identifier les accès excessifs ou inappropriés dans les environnements pris en charge. Sa gouvernance des accès aux données, Gestion de la sécurité des données (DSPM), et Sécurité et gouvernance de l'IA Ces fonctionnalités aident les équipes à évaluer quels agents et copilotes peuvent accéder aux informations sensibles, à prioriser l'exposition et à faciliter les examens d'accès et la correction des problèmes.
