Les organisations déploient de plus en plus d'agents d'IA pour répondre aux questions, automatiser les flux de travail, interagir avec les applications, analyser les informations et effectuer des tâches commerciales.
La plupart des organisations se concentrent sur régir les modèles d'IA derrière ces systèmes.
Beaucoup moins se concentrent sur régir les identités ces systèmes créent.
Cela crée un angle mort croissant.
À mesure que les agents d'IA accèdent aux applications, aux plateformes SaaS, aux API, aux environnements cloud et aux données sensibles, ils commencent à fonctionner comme des identités d'entreprise.
Elles nécessitent des autorisations.
Ils héritent de cet accès.
Ils accomplissent des actions.
Ils créent des risques.
Avec l'accélération de l'adoption de l'IA, les organisations ont de plus en plus besoin d'une gouvernance des identités pour les agents d'IA, et non plus seulement pour les modèles d'IA.
Pourquoi les agents d'IA ont besoin d'une gouvernance des identités : points clés
- Les agents d'IA fonctionnent de plus en plus comme des identités d'entreprise. Ils accèdent aux systèmes, récupèrent des informations, exécutent des flux de travail et réalisent des actions dans différents environnements d'entreprise.
- La plupart des agents d'IA héritent des permissions. Les applications, les API, les comptes de service, les identités des machines et les rôles des utilisateurs déterminent souvent ce à quoi les agents d'IA peuvent accéder.
- La gouvernance de l'IA et la gouvernance des identités résolvent des problèmes différents. La gouvernance des modèles se concentre sur le comportement de l'IA tandis que la gouvernance des identités se concentre sur la propriété, les autorisations, la responsabilité et l'accès.
- De nombreuses organisations ne peuvent pas recenser intégralement leurs agents d'IA. La visibilité sur la propriété, les autorisations, l'activité et l'exposition des données sensibles est souvent en retard par rapport au déploiement.
- Les agents d'IA introduisent des risques liés à l'identité. L'accès excessif, les autorisations héritées, les lacunes en matière de propriété et l'exposition de données sensibles créent des défis en matière de gouvernance.
- La gouvernance des identités IA aide les organisations à réduire les risques liés à l'IA. Découvrir les agents d'IA, établir la propriété, comprendre les autorisations et connecter l'accès aux données sensibles améliore la visibilité et le contrôle.
Les agents IA deviennent des identités d'entreprise
Pendant des décennies, les programmes d'identité se sont concentrés sur les personnes et les systèmes.
Organisations régies :
- Employés
- entrepreneurs
- Partenaires
- Applications
- Comptes de service
- Identités des machines
L'IA introduit une nouvelle catégorie d'identité.
Les agents d'IA modernes sont de plus en plus :
- Systèmes d'accès aux entreprises
- Récupérer des informations
- Exécuter les flux de travail
- Interagir avec les applications
- Effectuer des actions commerciales
- Fonctionner avec une intervention humaine limitée
Plus IA autonome Plus ces systèmes ressemblent à des identités d'entreprise, plus ils le deviennent.
Les organisations doivent les réglementer en conséquence.
Pourquoi la gouvernance traditionnelle de l'IA ne suffit pas
La plupart des programmes de gouvernance de l'IA se concentrent sur les modèles, les politiques et les pratiques responsables en matière d'IA.
Ces efforts restent importants.
Cependant, elles ne répondent pas à bon nombre des questions opérationnelles qui préoccupent les équipes de sécurité.
Sur quoi se concentre la gouvernance de l'IA ?
- Développement de modèles
- L'IA responsable
- Performances du modèle
- Atténuation des biais
- exigences de conformité
- Politiques en matière d'IA
Ce que la gouvernance de l'IA oublie souvent
- Quels agents d'IA existent ?
- À qui appartiennent-ils ?
- Quelles autorisations possèdent-ils ?
- Quels systèmes accèdent-ils ?
- Quelles données sensibles peuvent-ils atteindre ?
- Quels agents d'IA présentent le plus grand risque ?
Ce sont des questions de gouvernance de l'identité.
Comment les agents d'IA se comportent comme des identités d'entreprise
Les agents d'IA partagent de plus en plus de caractéristiques avec les identités d'entreprise traditionnelles.
Les agents IA possèdent des autorisations
Les agents d'IA nécessitent des autorisations pour interagir avec les applications, les API, les systèmes et les données.
Systèmes d'accès des agents IA
À l'instar des utilisateurs et des applications, les agents d'IA accèdent aux ressources de l'entreprise pour effectuer les tâches qui leur sont assignées.
Les agents d'IA effectuent des actions
De nombreux agents d'IA peuvent initier des flux de travail, récupérer des informations, mettre à jour des enregistrements et déclencher des processus métier.
Les agents d'IA créent des risques
Lorsque les autorisations, la propriété et l'activité manquent de visibilité, les agents d'IA créent des problèmes de gouvernance et de sécurité.
Les quatre risques liés à l'identité que les agents d'IA introduisent
La plupart des risques liés à l'IA ne sont pas des risques liés aux modèles.
Beaucoup sont des risques liés à l'identité.
Agents d'IA inconnus
Les organisations déploient souvent des systèmes d'IA plus rapidement qu'elles ne peuvent les inventorier.
Sans visibilité, la gouvernance devient difficile.
Autorisations excessives
Les agents d'IA héritent souvent de plus d'accès que nécessaire pour accomplir leur fonction prévue.
En savoir plus sur accès excessif et son rôle dans les risques liés à l'IA.
Lacunes en matière de propriété
De nombreuses organisations ne parviennent pas à identifier clairement à qui appartiennent des agents d'IA spécifiques.
Sans appropriation, la responsabilité diminue.
Exposition aux données sensibles
Les agents d'IA interagissent de plus en plus avec :
- Données client
- Informations financières
- propriété intellectuelle
- Données réglementées
- Informations essentielles à l'entreprise
Sans gouvernance, les organisations risquent de ne pas comprendre à quelles informations l'IA peut accéder.
Comment les agents IA héritent des autorisations
L'un des défis les plus négligés en matière de gouvernance de l'IA concerne l'accès hérité.
La plupart des agents d'IA ne reçoivent pas d'autorisations de manière indépendante.
Ils héritent plutôt des autorisations via les systèmes d'entreprise existants.
Applications
Les copilotes IA opèrent souvent au sein d'applications qui possèdent déjà des autorisations étendues.
Apis
Les systèmes d'IA interagissent fréquemment avec les ressources de l'entreprise via des API.
Comptes de service
Les flux de travail automatisés s'appuient généralement sur des comptes de service disposant de privilèges étendus.
Identités des machines
Les agents d'IA s'authentifient de plus en plus par le biais de certificats, de jetons, de secrets et d'identités de charge de travail.
Rôles des utilisateurs
Certains assistants IA héritent des autorisations des utilisateurs qui les invoquent.
En savoir plus sur comment les agents d'IA héritent des permissions.
Pourquoi la propriété est importante pour les agents IA
Chaque agent d'IA devrait avoir un propriétaire clairement identifié.
La propriété contribue à établir :
- Responsabilité
- Responsabilité en matière de gouvernance
- Accès à l'examen de la propriété
- Responsabilité des risques
- Responsabilité en matière de réparation
En l'absence de définition claire des responsabilités, les organisations ont souvent du mal à déterminer qui devrait examiner les autorisations, enquêter sur les risques ou approuver les changements.
La propriété est l'une des conditions fondamentales de Gouvernance de l'identité IA.
Découvrez comment les organisations peuvent construire et maintenir un Inventaire d'identité IA établir la propriété et la responsabilité.
Pourquoi le contexte des données modifie le risque de l'IA
Tous les agents d'IA ne présentent pas le même niveau de risque.
Le risque dépend fortement des données auxquelles un agent d'IA peut accéder.
Exposition des données client
Les agents IA peuvent accéder aux dossiers clients, aux informations d'assistance et aux données personnelles.
Exposition réglementée des données
De nombreux systèmes d'IA interagissent avec des informations réglementées, soumises à des exigences de confidentialité et de conformité.
Exposition de la propriété intellectuelle
Les agents d'IA peuvent accéder à des informations commerciales confidentielles, au code source, à la recherche ou aux secrets commerciaux.
Exposition des données critiques pour l'entreprise
L'accès aux systèmes financiers, aux données opérationnelles et aux informations stratégiques peut accroître considérablement les risques.
Les organisations ont besoin de visibilité sur les deux :
- L'identité de l'IA
- Les autorisations qu'elle possède
- Les données sensibles auxquelles il peut accéder
C’est là que la gouvernance des identités devient une gouvernance axée sur les données et que les organisations associent de plus en plus la sécurité des identités à gouvernance des données, de l'identité et de l'IA.
À quoi ressemble concrètement la gouvernance de l'identité IA ?
Une gouvernance efficace de l'identité IA comprend généralement plusieurs capacités essentielles.
Découverte d'agents IA
Identifier les systèmes alimentés par l'IA opérant dans des environnements cloud, SaaS, d'IA et hybrides.
Inventaire d'identité IA
Maintenir un système centralisé inventaire des identités d'IA, la propriété, les autorisations et les risques.
Cession de propriété
Établir la responsabilité de chaque identité IA.
Analyse des autorisations
Comprendre les permissions héritées et les relations d'accès.
Avis d'accès
Vérifier que les autorisations d'IA restent appropriées au fil du temps.
Priorisation des risques
Concentrez les efforts de correction sur les identités d'IA présentant le risque le plus élevé.
Gestion du cycle de vie
Gérer les identités des IA de leur création à leur mise hors service.
L'objectif n'est pas simplement de trouver des agents d'IA.
L'objectif est de les gouverner.
Gouvernance de l'identité IA vs Gouvernance d'accès IA
Ces disciplines sont étroitement liées mais résolvent des problèmes différents.
Gouvernance de l'identité IA
Elle se concentre sur l'identité elle-même.
Les questions portent notamment sur :
- Quelles sont les identités d'IA existantes ?
- À qui appartiennent-ils ?
- Comment sont-ils gouvernés ?
- Quels risques créent-ils ?
Gouvernance de l'accès à l'IA
Se concentre sur ce à quoi les identités IA peuvent accéder.
Les questions portent notamment sur :
- Quelles sont les autorisations requises ?
- Quelles autorisations sont excessives ?
- Quelles données sensibles l'IA peut-elle accéder ?
- Quels sont les chemins d'accès qui présentent un risque ?
La gouvernance de l'identité se concentre sur l'identité.
La gouvernance de l'accès se concentre sur l'exposition.
Les organisations ont besoin des deux.
Comment BigID aide à gouverner les agents IA
BigID aide les organisations à découvrir, inventorier, gouverner et gérer les agents d'IA dans les environnements cloud, SaaS, d'IA et hybrides.
Avec BigID, les organisations peuvent :
- Découvrez les agents d'IA et les systèmes basés sur l'IA
- Créer des inventaires d'identités IA
- Établir la propriété
- Comprendre les permissions héritées
- Identifier les accès excessifs
- Connectez les agents d'IA à l'exposition des données sensibles
- Prioriser les risques liés à l'identité de l'IA
- Soutenir les programmes de gouvernance de l'identité IA
BigID relie les différents éléments liés aux identités, autorisations, propriétés, activités et expositions de données sensibles des IA, permettant ainsi aux organisations de gouverner les agents d'IA avec une visibilité et un contrôle accrus.
Pourquoi les agents d'IA ont besoin d'une gouvernance des identités ? FAQ
Pourquoi les agents d'IA ont-ils besoin d'une gouvernance des identités ?
Les agents d'IA nécessitent une gouvernance des identités car ils accèdent aux systèmes, héritent des autorisations, interagissent avec des données sensibles et effectuent des actions dans des environnements d'entreprise.
Les agents IA sont-ils considérés comme des identités ?
De nombreux agents d'IA fonctionnent comme des identités d'entreprise car ils possèdent des autorisations, accèdent aux ressources et effectuent des actions au sein des systèmes d'entreprise.
Comment les agents IA héritent-ils des autorisations ?
Les agents d'IA héritent généralement des autorisations via les applications, les API, les comptes de service, les identités machine et les rôles utilisateur.
Quels risques les agents d'IA créent-ils ?
Les risques courants incluent un accès excessif, des lacunes en matière de propriété, des agents d'IA inconnus, des autorisations héritées et l'exposition de données sensibles.
Qu’est-ce que la gouvernance de l’identité par l’IA ?
La gouvernance des identités basées sur l'IA aide les organisations à découvrir, gouverner, surveiller et gérer les identités alimentées par l'IA tout au long de leur cycle de vie.
Comment BigID aide-t-il à gouverner les agents IA ?
BigID aide les organisations à découvrir les agents d'IA, à établir la propriété, à comprendre les autorisations, à relier l'exposition des données sensibles et à réduire les risques liés à l'IA.
Gouverner les agents d'IA avant qu'ils ne deviennent un risque invisible
Les agents d'IA fonctionnent de plus en plus comme des identités d'entreprise ayant accès aux applications, aux systèmes et aux données sensibles. BigID aide les organisations à identifier ces identités d'IA, à comprendre les autorisations héritées, à établir la propriété et à réduire les risques liés à l'IA grâce à la gouvernance des identités d'IA.
Auteur
