Utilisation acceptable de l'IA : comment encadrer l'utilisation des données d'entreprise par les personnes et l'IA

La plupart des organisations sont désormais confrontées à un problème d'utilisation acceptable de l'IA, même si elles disposent déjà d'une politique d'utilisation acceptable de l'IA.

Les employés utilisent des assistants pour résumer des documents. Les développeurs soumettent du code à des assistants IA. Les équipes expérimentent l'IA générative pour la recherche, le contenu, l'analyse et l'automatisation. Les applications d'IA approuvées se connectent directement aux référentiels de l'entreprise. Les agents IA extraient de plus en plus de données, invoquent des outils et agissent grâce aux identités et autorisations existantes.

Bon nombre de ces activités peuvent impliquer des utilisateurs légitimes, des systèmes approuvés et des accès valides.

Cela ne rend pas automatiquement chaque utilisation appropriée.

L’utilisation acceptable de l’IA définit comment les personnes, les applications, les copilotes, les modèles et les agents peuvent utiliser l’IA, les données, l’accès et l’autorité de l’entreprise dans le respect des limites approuvées en matière de sécurité, de confidentialité, de gouvernance et d’activité.

La question fondamentale va au-delà de la simple possibilité d'utiliser l'IA.

Cette personne ou ce système d'IA devrait-il utiliser ces données, par le biais de cette IA, à cette fin et pour obtenir ce résultat ?

Cette distinction est importante car l'IA peut transformer un accès légitime en utilisation inappropriée sans que personne ne contourne l'authentification, n'exploite une vulnérabilité ou ne vole d'identifiants.

Qu’est-ce qu’une utilisation acceptable de l’IA ?

L’utilisation acceptable de l’IA définit les manières approuvées dont les employés, les applications, les copilotes, les modèles, les agents et autres systèmes d’IA peuvent accéder aux données et aux systèmes de l’entreprise, les traiter, les récupérer, générer des données à partir de ces données, les partager, les transformer ou agir sur ces données et systèmes.

Un programme d'utilisation acceptable peut préciser quels services d'IA les employés peuvent utiliser, quelles informations ils peuvent soumettre, à quels systèmes l'IA peut accéder, à quelles fins commerciales l'IA peut servir, où les données générées par l'IA peuvent être stockées et quelles actions nécessitent une autorisation supplémentaire.

Le concept ressemble aux politiques d'utilisation acceptable traditionnelles, mais l'IA introduit davantage de variables.

Les politiques traditionnelles se concentraient souvent sur la manière dont les employés utilisaient les appareils, les réseaux, les applications et les informations de l'entreprise. L'IA ajoute des modèles, des invites, des systèmes RAG (rouge, orange, jaune), des agents, des données d'entraînement, des bases de données vectorielles, Identités IA, services d'IA externes, autorisations déléguées et actions autonomes.

Cela crée un problème de gouvernance plus vaste.

L’utilisation acceptable de l’IA doit régir la relation entre l’utilisateur, l’IA, les données, la finalité et l’action.

Pourquoi l'utilisation acceptable de l'IA dépasse le cadre d'une simple politique interne

De nombreuses organisations abordent d'abord la question de l'utilisation acceptable de l'IA comme un problème de sensibilisation des employés.

Ne collez pas d'informations confidentielles dans les outils d'IA publics. N'utilisez pas de modèles non approuvés. Ne soumettez pas de données clients. Ne téléchargez pas de code source. Ne vous fiez pas à du contenu généré par l'IA sans vérification préalable.

Ces règles ont leur importance, mais l'IA d'entreprise va désormais bien au-delà des simples invites individuelles.

Un copilote autorisé peut extraire des informations directement des référentiels internes. Un système RAG peut connecter un modèle aux connaissances de l'entreprise. Une application d'IA peut traiter des données sensibles via une API. Un agent peut utiliser un compte de service ou une identité déléguée pour accéder aux données et déclencher des flux de travail en aval.

Dans ces environnements, l'utilisateur ne doit jamais coller manuellement d'informations sensibles.

L'IA peut y accéder directement.

L'usage acceptable doit donc régir l'accès et le comportement de l'IA, et pas seulement le comportement des employés.

L'approbation de l'IA n'implique pas automatiquement une approbation de son utilisation.

Les organisations font de plus en plus la distinction entre l'IA autorisée et l'IA sanctionnée. l'IA fantôme.

Cette distinction aide les organisations à identifier les services fonctionnant en dehors des processus établis en matière de sécurité, d'approvisionnement, de confidentialité ou de gouvernance.

Mais l'approbation ne résout qu'une partie du problème.

Un système d'IA approuvé peut toujours recevoir des données inappropriées. Un copilote autorisé peut toujours hériter d'un accès excessif. Un agent d'entreprise peut toujours disposer de pouvoirs disproportionnés par rapport à sa tâche. Un modèle autorisé peut toujours permettre une utilisation contraire aux objectifs de confidentialité, aux exigences de conservation des données ou à la politique interne.

Cela crée un principe important :

L'approbation de l'IA détermine si l'organisation autorise le système. L'utilisation acceptable détermine si l'organisation autorise cette utilisation du système, des données et des autorisations.

Utilisation acceptable de l'IA vs. utilisation abusive de l'IA

L’utilisation acceptable de l’IA définit les limites approuvées.

L'utilisation abusive de l'IA se produit lorsqu'une personne ou un système d'IA opère en dehors de ces limites.

Cet usage abusif peut impliquer un service d'IA non approuvé, mais ce n'est pas systématique. Une application d'IA approuvée peut également donner lieu à un usage abusif si une personne lui fournit des données sensibles, l'utilise à des fins non autorisées, divulgue des informations à un public non autorisé ou permet à un agent d'agir en dehors de son champ d'application prévu.

Cette distinction devient particulièrement importante avec les systèmes autonomes.

L'article de BigID sur Utilisation abusive des données dans les systèmes d'IA agents examine une forme spécifique d'utilisation abusive : les agents d'IA utilisant des données au-delà de leur champ d'application ou de leur finalité autorisés.

L'utilisation acceptable de l'IA englobe la question plus large de la gouvernance et concerne les employés, l'IA autorisée, l'IA fantôme, les copilotes, les modèles, les applications et les agents.

À quoi ressemble une utilisation inacceptable de l'IA ?

L’utilisation inacceptable de l’IA peut prendre de nombreuses formes car les organisations ont des exigences différentes en matière de données, de politiques, de secteurs d’activité et de risques.

Les scénarios courants incluent :

• Soumettre du code source confidentiel à un service d'IA que l'organisation n'a pas approuvé pour des informations confidentielles
• L'utilisation des données personnelles des clients dans un flux de travail d'IA sans finalité commerciale approuvée
• Autoriser un copilote d'entreprise à récupérer des fichiers sensibles grâce à des permissions utilisateur excessives
• Utiliser des données réglementées pour entraîner ou affiner un modèle sans gouvernance appropriée
• Autoriser invites ou réponses contenant des informations sensibles destinées à circuler dans des systèmes situés en dehors des limites approuvées
• Donner à un agent d'IA l'accès à des systèmes ou à des ensembles de données qui dépassent le cadre de sa tâche assignée nécessite
• Autoriser un agent à envoyer, modifier, supprimer ou publier des informations sans autorisation appropriée
• Utiliser des informations d'entreprise obsolètes, dépassées ou à accès restreint comme contexte actuel de l'IA
• Réutilisation des informations collectées à des fins commerciales dans un flux de travail d'IA non lié
• Autoriser les décisions ou recommandations générées par l'IA à influencer des processus importants sans supervision requise.

Le point commun n'est pas la technologie.

Le point commun est une inadéquation entre l'accès, l'objectif, la politique et le résultat.

Pourquoi la sensibilité des données modifie la décision d'utilisation acceptable

Toutes les interactions avec l'IA ne comportent pas le même risque.

Un employé qui soumet de la documentation produit publique à un assistant agréé crée une question de sécurité différente de celle d'un employé qui soumet des informations personnelles de clients, des identifiants, des documents juridiques, des dossiers financiers, de la propriété intellectuelle, du code source ou des informations de santé.

Le service d'IA pourrait rester exactement le même.

Les données modifient le risque.

Les organisations doivent donc savoir à quelles informations l'IA peut accéder ou qu'elle peut recevoir avant de décider si son utilisation est conforme à la politique en vigueur.

Découverte et classification des données sensibles peut fournir cette base en identifiant les informations réglementées, personnelles, confidentielles, exclusives, d'identification, financières, de santé et autres informations de grande valeur dans les environnements d'entreprise.

La politique d'utilisation acceptable prend tout son sens lorsqu'elle repose sur la connaissance des données réelles.

L'identité et l'accès restent importants.

Une politique d'utilisation acceptable ne peut compenser un accès non contrôlé.

Si un employé, une application, un compte de service, une identité machine ou un agent d'IA peut accéder à des informations beaucoup plus sensibles que ne l'exige son objectif légitime, l'organisation a déjà multiplié les possibilités d'utilisation inappropriée de l'IA.

Cela fait du principe du moindre privilège une composante importante de l'utilisation acceptable de l'IA.

Les organisations doivent comprendre l'accès direct, l'accès de groupe, les autorisations héritées, l'autorité déléguée, les identités d'application, les comptes de service, les identités de machine et les chemins d'accès spécifiques à l'IA.

Gouvernance de l'accès à l'IA Elle relie ces identités et autorisations aux données sensibles de l'entreprise afin que les équipes puissent identifier les cas où l'accès à l'IA dépasse les besoins approuvés.

L'utilisation acceptable commence par la définition de ce qui devrait se produire. La gouvernance des accès permet de limiter ce qui peut se produire.

L'objectif est l'élément manquant dans de nombreuses politiques en matière d'IA.

Deux personnes peuvent utiliser la même application d'IA approuvée avec le même ensemble de données et obtenir malgré tout des résultats de gouvernance différents.

La différence pourrait tenir à l'objectif.

Par exemple, les informations client collectées pour la gestion d'un compte peuvent servir un flux de travail opérationnel légitime. Utiliser ces mêmes informations pour construire un modèle d'IA sans lien avec ce processus peut nécessiter une analyse différente des politiques, de la confidentialité, du consentement, de la finalité commerciale et des risques.

C’est pourquoi l’utilisation acceptable de l’IA ne devrait pas se limiter à une liste binaire d’outils approuvés et interdits.

Les organisations doivent également prendre en compte :

Que peut faire cette IA avec cette catégorie de données, pour cet objectif commercial ?

Cette question établit un lien direct entre la gouvernance de l'IA et la gouvernance de la confidentialité et des données.

Utilisation acceptable et confidentialité de l'IA

Les programmes de protection de la vie privée reconnaissent déjà que la possession d'informations personnelles ne confère pas un droit illimité à leur utilisation.

L'IA rend cette distinction plus visible car les modèles et les applications peuvent réutiliser les informations d'une manière très différente du flux de travail qui les a initialement collectées.

Les équipes chargées de la protection de la vie privée doivent parfois comprendre quelles données personnelles sont intégrées à l'IA, pourquoi l'organisation les utilise, si cette utilisation est conforme aux politiques ou aux exigences applicables, combien de temps les systèmes d'IA conservent ces informations, si les données sont transmises à des tiers et si les personnes concernées ou les organismes de réglementation s'attendent à des contrôles supplémentaires.

La gouvernance des usages acceptables permet de traduire ces préoccupations en limites pratiques pour l'IA.

La question de la protection de la vie privée ne se résume pas à “ L’IA contient-elle des données personnelles ? ” mais à “ Cette IA devrait-elle utiliser ces données personnelles de cette manière ? ”

L'IA fantôme rend l'application des règles d'utilisation acceptable plus difficile.

Les organisations ne peuvent pas appliquer de contrôles d'utilisation acceptable significatifs à une IA dont elles ignorent l'existence.

Les employés peuvent adopter des assistants IA, des extensions de navigateur, des fonctionnalités SaaS, des outils de développement, des modèles ou des API avec une visibilité centralisée limitée. Les unités opérationnelles peuvent déployer des applications basées sur l'IA via leurs fournisseurs habituels. Les développeurs peuvent connecter des modèles externes via des API.

Cela crée un problème de visibilité avant même qu'il ne devienne un problème de politique.

Découverte de l'IA Shadow aide les organisations à identifier les IA non autorisées ou insuffisamment encadrées afin que les équipes de sécurité et de gouvernance puissent comprendre où les informations de l'entreprise peuvent circuler.

Mais la découverte à elle seule ne permet pas de déterminer si l'utilisation est appropriée.

L'intelligence artificielle parallèle s'interroge sur l'existant. La gouvernance des usages acceptables s'interroge sur les prochaines étapes.

Les agents d'IA transforment l'usage acceptable en action acceptable

L'IA générative s'est initialement concentrée sur les invites et les sorties.

Les agents aggravent le problème car ils peuvent agir.

Un agent peut rechercher des informations sur l'entreprise, accéder à des applications, appeler des API, envoyer des messages, mettre à jour des enregistrements, créer des fichiers, modifier des autorisations, exécuter du code, déclencher des flux de travail ou invoquer un autre agent.

La question de l'utilisation acceptable s'élargit donc :

À quelles données cet agent peut-il accéder, et quelles actions peut-il entreprendre avec cette autorisation ?

Les organisations doivent connaître l'identité de l'agent, les autorisations dont il dispose, les outils qu'il peut utiliser, la destination des informations et les actions qui requièrent une approbation plus poussée.

Pour plus d'informations sur les aspects d'accès liés à ce problème, voir Comment les agents IA héritent des autorisations.

Utilisation acceptable de l’IA et utilisation abusive des données de l’IA

Ces concepts se recoupent, mais ils servent des objectifs différents.

Utilisation acceptable de l'IA définit les limites approuvées pour les personnes et les systèmes d'IA.

utilisation abusive des données de l'IA décrit les situations où l'IA utilise l'information d'une manière qui entre en conflit avec ces limites, par exemple en utilisant des données autorisées à des fins inappropriées ou au-delà de leur portée autorisée.

Pour les systèmes autonomes, BigID Utilisation abusive des données dans les systèmes d'IA agents Cet article examine plus en détail comment des autorisations légitimes peuvent néanmoins conduire à une utilisation inappropriée des données.

La relation est simple :

L'usage acceptable définit la limite. L'usage abusif la franchit.

Pourquoi une politique d'utilisation acceptable de l'IA ne suffit pas

Une politique écrite constitue une base importante.

Il est impossible de voir quelles données sensibles un système d'IA peut consulter. Il ne peut identifier par lui-même les autorisations excessives des agents. Il ne peut déterminer quels modèles non approuvés les employés utilisent. Il ne peut pas indiquer si un système d'IA récupère des informations réglementées ou les envoie vers une autre destination.

Le décalage entre les politiques et les opérations constitue l'un des problèmes de gouvernance de l'IA les plus difficiles à résoudre.

Les organisations doivent relier les politiques à :

• Inventaire IA
• Découverte et classification des données
• Identité
• Accès effectif
• But
• Possession
• Lignée
• Activité
• Questions et réponses
• Outils et actions de l'agent
• Destinations extérieures
• Remédiation

La gouvernance devient utile lorsque l'organisation peut relier un énoncé de politique aux données et à l'activité d'IA qu'elle régit.

Comment élaborer un programme d'utilisation acceptable de l'IA

1. Systèmes d'IA d'inventaire

Identifier les modèles, copilotes, agents, applications utilisant l'IA, API, systèmes RAG, ensembles de données, bases de données vectorielles et autres services d'IA approuvés et non approuvés qui interagissent avec les informations de l'entreprise.

2. Découvrez les données que l'IA peut atteindre

Comprendre quels systèmes d'IA peuvent accéder aux informations réglementées, personnelles, confidentielles, exclusives, d'identification, financières, de santé, de propriété intellectuelle et autres informations sensibles.

3. Définir l'utilisation acceptable des données et leur finalité

Évitez les politiques qui se contentent de diviser les outils d'IA en catégories autorisées et interdites.

Définir les catégories de données que les systèmes d'IA spécifiques peuvent utiliser, les raisons de leur utilisation et les résultats autorisés par l'organisation.

4. Cartographier les identités humaines et non humaines

Déterminez quels utilisateurs, groupes, applications, comptes de service, identités de machines et agents d'IA créent des chemins d'accès aux données de l'entreprise.

5. Réduire l'accès excessif

Supprimez les autorisations trop larges, obsolètes, héritées, inutiles ou à haut risque qui donnent à l'IA un accès aux données sensibles supérieur à ce que requiert sa tâche prévue.

6. Gérer les invites et les réponses

Comprendre où les informations sensibles interagissent avec l'IA et où l'IA peut révéler des informations sensibles dans ses réponses.

7. Restreindre les actions de l'agent

Distinguer l'autorité de récupération des actions consécutives telles que l'envoi, l'écriture, la suppression, l'exécution, la publication, l'approbation ou la modification des autorisations.

8. Surveiller l'utilisation réelle

Comparer les politiques mises en œuvre aux pratiques établies. Déterminer si les personnes et les systèmes d'IA accèdent, récupèrent, déplacent, partagent, modifient ou utilisent des informations sensibles de manière inattendue.

9. Créer un processus d'exception

L’utilisation de l’IA évolue rapidement. Les équipes peuvent avoir des raisons légitimes de demander de nouveaux modèles, jeux de données, autorisations ou finalités. Il est préférable de mettre en place une procédure d’examen encadrée plutôt que d’inciter les utilisateurs à contourner les règles.

10. Lier les violations à des actions concrètes

Un programme d'utilisation acceptable nécessite une procédure de réponse. Les équipes peuvent avoir besoin de restreindre l'accès, de bloquer un flux de travail, de supprimer des données, de modifier une politique, de désigner un responsable, d'enquêter sur une activité ou de transmettre un problème à la partie prenante appropriée.

Comment BigID contribue à opérationnaliser l'utilisation acceptable de l'IA

L'utilisation acceptable de l'IA nécessite plus qu'une simple liste de produits d'IA approuvés.

Les organisations doivent comprendre les données, les identités, les autorisations, les politiques, les activités et les systèmes d'IA impliqués dans chaque utilisation.

BigID contribue à connecter ces différentes couches en aidant les organisations à :

• Découvrir et gouverner l'IA : Identifiez les modèles d'IA, les agents, les copilotes, les ensembles de données, les invites, les RAG, les magasins de vecteurs, les pipelines et l'IA fantôme, et connectez-les au contexte de l'entreprise.
• Découvrir et classer les données sensibles : Comprendre les informations réglementées, personnelles, confidentielles, exclusives, d'identification, financières, de santé et autres informations sensibles dans les environnements d'entreprise.
• Comprendre l'accès à l'IA : Relier les systèmes d'IA et les identités aux données et aux autorisations qui sous-tendent leur autorité.
• Identifier les accès excessifs : Identifiez les accès étendus, hérités, obsolètes, inutiles et à haut risque liés à des informations sensibles.
• Ajouter le contexte de l'activité : Comprendre comment les données sensibles sont consultées, déplacées, partagées, modifiées, téléchargées ou supprimées.
• Protéger les interactions avec l'IA : Surveillez les informations sensibles dans les messages et les réponses et reliez les interactions à risque aux flux de travail de politiques et de réponses.
• Action corrective du conducteur : Transmettre les résultats aux propriétaires, limiter l'accès, appliquer la politique en vigueur, supprimer les données inutiles et coordonner les mesures correctives le cas échéant.

BigID aide les organisations à se connecter :

IA → Identité → Accès → Données sensibles → Finalité → Activité → Politique → Action

Cela permet de mieux déterminer non seulement si l'IA d'entreprise existe, mais aussi si l'organisation l'utilise dans le cadre des limites approuvées.

Le test de préparation à l'utilisation acceptable de l'IA

L'utilisation acceptable de l'IA ne se résume pas à dire oui ou non.

L'adoption de l'IA continuera de se répandre dans les applications d'entreprise, les flux de travail, les équipes et les processus métier.

Un modèle de gouvernance fondé uniquement sur des outils approuvés et interdits aura du mal à suivre le rythme.

L'approche la plus durable relie le système d'IA aux données, à l'identité, à l'accès, à la finalité, aux politiques et aux actions qui l'entourent.

Cela permet à une organisation d'autoriser une utilisation précieuse de l'IA sans considérer chaque connexion valide, application approuvée ou ensemble de données techniquement disponible comme une autorisation illimitée.

Access vous indique ce que les personnes et l'IA peuvent atteindre.

L'usage acceptable définit ce qu'ils doivent en faire.

FAQ sur l'utilisation acceptable de l'IA

Qu’est-ce qu’une utilisation acceptable de l’IA ?

L'utilisation acceptable de l'IA définit comment les employés, les applications, les copilotes, les modèles, les agents d'IA et les autres systèmes peuvent accéder aux données de l'entreprise, les traiter, les récupérer, les générer, les partager, les transformer ou agir sur celles-ci dans le respect des limites approuvées en matière de sécurité, de confidentialité, de gouvernance et d'activité.

Qu’est-ce qu’une politique d’utilisation acceptable de l’IA ?

Une politique d'utilisation acceptable de l'IA définit les utilisations approuvées et interdites de l'IA, notamment les systèmes d'IA que les utilisateurs peuvent utiliser, les données qu'ils peuvent soumettre ou exposer, les objectifs commerciaux que l'IA peut soutenir et les actions ou flux de travail qui nécessitent des contrôles ou une approbation supplémentaires.

L'utilisation acceptable de l'IA est-elle la même chose que l'IA approuvée ?

Non. Une organisation peut approuver un système d'IA tout en limitant les données, les finalités, les identités ou les actions autorisées au sein de ce système. L'approbation du système n'autorise pas toutes les utilisations possibles.

Quelle est la différence entre l'utilisation acceptable et la mauvaise utilisation de l'IA ?

L’utilisation acceptable de l’IA définit les limites autorisées. L’utilisation abusive de l’IA se produit lorsqu’une personne ou un système d’IA utilise des données, des accès, des capacités ou une autorité en dehors de ces limites autorisées.

L'IA fantôme est-elle la même chose qu'une utilisation inacceptable de l'IA ?

Non. L'IA fantôme désigne les systèmes ou usages d'IA qui ne bénéficient pas d'une visibilité ou d'une gouvernance organisationnelle suffisante. L'IA fantôme peut donner lieu à des usages inacceptables, mais même une IA approuvée peut enfreindre les règles d'utilisation acceptable.

Pourquoi la sensibilité des données est-elle importante pour une utilisation acceptable de l'IA ?

Un même processus d'IA peut engendrer des risques différents selon les informations concernées. Les informations publiques, les données personnelles, les données de santé, le code source, les identifiants, les données financières et la propriété intellectuelle requièrent des mesures de sécurité, de confidentialité et de gouvernance spécifiques.

Comment les agents d'IA influencent-ils les politiques d'utilisation acceptable ?

Les agents d'IA combinent l'accès aux données avec des outils et un pouvoir d'action. Les organisations doivent donc définir des limites d'utilisation acceptables concernant les données que les agents peuvent extraire, les identités et autorisations qu'ils utilisent, les systèmes auxquels ils peuvent accéder et les actions qu'ils peuvent entreprendre.

Pourquoi une politique d'utilisation acceptable de l'IA ne suffit-elle pas à elle seule ?

Une politique écrite ne peut à elle seule déterminer quels systèmes d'IA existent, quelles données sensibles ils peuvent consulter, quelles identités permettent cet accès, comment les personnes et les agents utilisent les données, ni si une activité enfreint la politique. Les organisations ont besoin d'une visibilité opérationnelle et de contrôles sur leurs données et leur environnement d'IA.

Comment les organisations peuvent-elles garantir une utilisation acceptable de l'IA ?

Les organisations peuvent inventorier l'IA, découvrir les données sensibles, cartographier les identités de l'IA et des humains, comprendre l'accès effectif, réduire les autorisations excessives, surveiller les invites et l'activité, définir des règles basées sur la finalité, restreindre les actions des agents à fort impact et relier les violations aux flux de travail de correction.

Comment BigID soutient-il une utilisation acceptable de l'IA ?

BigID aide les organisations à découvrir l'IA et les données sensibles, à connecter les systèmes d'IA aux identités humaines et non humaines, à comprendre les autorisations et les accès excessifs, à ajouter du contexte d'activité et d'invite, à appliquer des politiques de gouvernance et à coordonner la remédiation dans les environnements de données et d'IA de l'entreprise.