Demandez à une équipe de sécurité de cartographier la surface d'attaque d'une application et l'exercice vous semblera familier. Elle identifiera les points d'accès, les API, les identités, les vulnérabilités, les intégrations et les périmètres de sécurité. L'IA modifie cette cartographie car un système d'IA d'entreprise peut relier directement ces surfaces d'attaque traditionnelles aux données sensibles, aux systèmes de récupération, aux identités des machines, aux outils et aux actions autonomes.
Une instruction malveillante peut s'infiltrer via une invite ou un document récupéré par l'IA. Un attaquant peut cibler une API, exploiter un agent trop puissant ou manipuler un flux de travail disposant déjà d'un accès légitime. Un utilisateur peut posséder des autorisations valides, mais l'IA, opérant grâce à cet accès, peut ainsi trouver, combiner et utiliser plus facilement des informations sensibles.
La surface d'attaque de l'IA en entreprise s'étend au-delà du modèle.
Pour les responsables de la sécurité des données, cela soulève une question cruciale : Combien de voies relient l'IA aux données sensibles des entreprises, et que peut-il se passer si l'une de ces voies est manipulée, mal utilisée, compromise ou fonctionne en dehors de son objectif initial ?
Voilà la surface d'attaque des données d'IA.
Surface d'attaque des données d'IA : principaux enseignements
- La surface d'attaque de l'IA s'étend au-delà des modèles et des invites. L'IA d'entreprise connecte les identités, les autorisations, les données sensibles, les systèmes de récupération, la mémoire, les outils, les agents, les applications et les destinations.
- Chaque chemin reliant l'IA aux données crée un risque potentiel. RAG, la recherche d'entreprise, les API, les connecteurs, les comptes de service, les magasins de vecteurs, les copilotes et les agents peuvent créer des itinéraires vers des informations sensibles.
- L'autorité compétente détermine l'impact potentiel. Un système d'IA avec un accès en lecture seule crée une surface d'attaque différente de celle d'un agent capable de lire, d'écrire, d'envoyer, de supprimer, d'exécuter ou de déléguer.
- Les données modifient la gravité du parcours. Un lien vers la documentation publique d'un produit n'a pas le même impact potentiel qu'un lien vers les dossiers clients, les identifiants, le code source ou la propriété intellectuelle.
- La gestion de la surface d'attaque de l'IA nécessite un contexte. Les équipes de sécurité doivent relier les ressources d'IA aux données sensibles, à l'identité, à l'autorité, à l'accès, à l'activité, aux outils, aux destinations et à la finalité commerciale.
- L'objectif n'est pas simplement de trouver davantage d'IA. L’objectif est de réduire les chemins inutiles entre l’IA, les données sensibles, les actions privilégiées et les destinations externes.
Qu’est-ce que la surface d’attaque des données d’IA ?
La surface d'attaque des données d'IA est l'ensemble des chemins, autorisations, interfaces, identités, sources de données, systèmes de récupération, outils et destinations par lesquels un système d'IA peut accéder à des données sensibles ou influencer leur traitement.
Elle représente la partie axée sur les données de la surface d'attaque globale de l'IA. Cette dernière peut inclure des modèles, des invites, des applications, des API, l'infrastructure, des bibliothèques, des plugins, des agents, des outils, la mémoire et les composants de la chaîne d'approvisionnement. La surface d'attaque des données de l'IA se concentre spécifiquement sur la manière dont ces composants connectent l'IA aux informations de l'entreprise et sur les niveaux d'autorité existants le long de ces voies.
Les équipes de sécurité doivent donc comprendre quelles données sensibles l'IA peut consulter, quelles identités permettent cet accès, quelles autorisations le régissent et quels systèmes de récupération rendent ces données accessibles. Elles doivent également savoir quels outils peuvent exploiter ces informations, quels autres acteurs peuvent les recevoir et quelles sont les destinations possibles de ces données.
Le modèle fait partie de la surface d'attaque. Les flux de données autour du modèle déterminent souvent l'impact potentiel sur l'activité.
Découvrez les données qui se cachent derrière la surface d'attaque de l'IA.
Connectez les systèmes d'IA aux données sensibles, aux identités et aux accès qui y sont associés.
Découvrez les ressources d'IA et connectez-les aux données sensibles, aux identités, aux autorisations, à la propriété, à la traçabilité, aux politiques et aux risques dans les environnements d'entreprise.
Pourquoi le modèle traditionnel de surface d'attaque est insuffisant pour l'IA
La gestion traditionnelle de la surface d'attaque se concentre principalement sur les points d'entrée potentiels d'un attaquant. La sécurité de l'IA doit également se poser cette question, mais les points d'entrée ne donnent qu'une vision partielle de la situation. Les équipes de sécurité doivent aussi comprendre quelles données l'IA peut extraire, de quelle autorité elle s'appuie, quelles données sensibles sont protégées par cette autorité, quelles instructions peuvent influencer son comportement et quelles actions elle peut entreprendre par la suite.
Cela est important car un système d'IA peut contribuer à un résultat néfaste sans qu'un attaquant ne parvienne à franchir un périmètre de sécurité traditionnel. Un agent peut déjà être autorisé à consulter un référentiel sensible. Un système RAG peut déjà indexer un document partagé de manière excessive. Un copilote peut opérer grâce aux autorisations utilisateur existantes. Un outil connecté peut déjà être autorisé à envoyer des informations à un autre système.
Une instruction malveillante, une identité compromise, un flux de travail non sécurisé ou un comportement IA non intentionnel peuvent alors tirer profit d'une autorité déjà existante.
L'attaque ne nécessite pas toujours la création de nouveaux accès. Elle peut se contenter d'activer des accès déjà existants.
Surface d'attaque des données d'IA d'entreprise
Surface d'attaque des données d'IA d'entreprise
Le modèle s'inscrit dans un réseau de données, d'identité, d'accès et d'action.
Chaque connexion crée un nouvel espace où un excès de pouvoir, des instructions dangereuses, un accès inapproprié ou des données sensibles peuvent engendrer des risques.
Suggestions + Contenu
Utilisateurs, fichiers, pages web, messages, contenu récupéré
Autorité + Accès
Utilisateurs, groupes, comptes de service, applications, identités machine
Contexte d'entreprise
Fichiers, bases de données, SaaS, cloud, stockage vectoriel, bases de connaissances
Mannequin + Agent
Modèles, copilotes, RAG, mémoire, orchestration, agents
Outils + Actions
Rechercher, écrire, envoyer, modifier, exécuter, supprimer, invoquer
Où vont les données
Utilisateurs, applications, API, agents, systèmes externes
La sécurité de l'IA devient sécurité des données lorsqu'une attaque cible les informations de l'entreprise.
Qu’est-ce qui élargit la surface d’attaque des données d’IA ?
La surface d'attaque des données d'IA évolue à mesure que les organisations connectent l'IA à un nombre croissant d'informations, d'identités, de systèmes de récupération, d'applications et d'outils. Le nombre de connexions est important, mais la sensibilité des données et l'autorité associée à chaque connexion déterminent les chemins qui méritent une attention particulière.
1. Des données plus sensibles liées à l'IA
L'intégration de l'IA aux données d'entreprise la rend utile, mais elle élargit également le champ d'application potentiel du système. Ces données peuvent inclure des informations personnelles, des données de santé, des informations clients, des identifiants, des secrets commerciaux, des données financières, du code source, des documents juridiques, des informations sur les employés, la propriété intellectuelle, la recherche et les plans de produits.
Le volume brut à lui seul ne détermine pas le risque. La mise en relation de dix millions de documents publics ne crée pas nécessairement plus de risques matériels que la mise en relation d'un seul référentiel d'identifiants hautement sensibles. Les équipes de sécurité doivent comprendre la sensibilité et l'impact commercial des données sous-jacentes à chaque connexion d'IA.
2. Accès excessif à l'IA
L'IA peut fonctionner via des utilisateurs, des applications, des groupes, des comptes de service, des identités de machines, des connecteurs, des API et des autorisations déléguées. Des autorisations trop larges, obsolètes, héritées ou inutiles augmentent le nombre de voies d'accès aux données sensibles pour l'IA.
Cela rend accès excessif à l'IA Il ne s'agit pas seulement d'un problème d'identité. Le risque matériel dépend de la nature des informations sensibles qui se cachent derrière cet accès.
3. Autorité héritée et déléguée
L'identité qui exécute un flux de travail d'IA ne suffit pas toujours à expliquer la situation dans son ensemble. Un agent peut agir grâce à une autorité héritée ou déléguée d'un utilisateur, d'une application, d'un service, d'une identité machine ou d'un autre agent. À mesure que les flux de travail d'IA deviennent plus interconnectés, les équipes de sécurité doivent retracer l'autorité sur l'ensemble du chemin plutôt que d'examiner une seule information d'identification de manière isolée.
Quelle autorité autorise en dernier ressort l'IA à accéder à ces données ?
Comprendre comment les agents d'IA héritent des permissions permet de révéler des voies d'accès qu'un simple inventaire IA peut manquer.
4. RAG et récupération
RAG ajoute une infrastructure de récupération entre l'IA et les informations d'entreprise. Les référentiels de sources, les index, les bases de données vectorielles, les identités de récupération, les connecteurs, la logique d'autorisation et le contexte renvoyé peuvent tous contribuer à la surface d'attaque des données.
La distinction importante réside entre trouver des informations pertinentes et avoir l'autorité légitime pour les obtenir. La pertinence détermine ce que l'IA peut extraire. L'autorisation détermine ce qu'elle doit extraire.
Les organisations déployant des architectures de récupération doivent traiter Sécurité RAG dans le cadre d'un modèle plus large de sécurité des données, et non pas simplement comme une préoccupation relative à la qualité du modèle.
5. Messages et instructions récupérées
Les systèmes d'IA peuvent recevoir des instructions directement via des invites et indirectement via le contenu qu'ils récupèrent ou traitent. Un fichier, une page web, un message ou toute autre source non fiable peut contenir des instructions visant à influencer le comportement de l'IA.
La manipulation des instructions prend une importance accrue lorsque le système d'IA peut également accéder à des données sensibles ou utiliser des outils puissants. L'instruction elle-même constitue une partie du risque. L'autorité et les données sous-jacentes à l'IA déterminent les conséquences potentielles de cette instruction.
Voir Injection d'invite IA pour une analyse plus approfondie de cette méthode d'attaque.
6. Outils de l'agent
Les agents modifient la surface d'attaque car ils peuvent transformer la récupération d'informations en actions. Selon leurs capacités, ils peuvent effectuer des recherches dans des référentiels, lire des données, envoyer des messages, écrire des enregistrements, modifier des fichiers, supprimer des informations, exécuter du code, appeler des API ou déclencher des flux de travail en aval.
L'accès détermine ce qu'un agent peut atteindre. Les outils déterminent ce qu'il peut faire ensuite.
Un agent qui ne peut récupérer que des documents approuvés présente un impact potentiel différent de celui d'un agent qui peut accéder aux données clients, modifier les enregistrements et envoyer des informations à des systèmes externes.
7. Connexions entre agents
Les architectures multi-agents ajoutent des chaînes d'identité, de confiance, d'autorité, de contexte et de circulation des données. Un agent peut récupérer des informations et les transmettre à un autre agent qui opère avec des permissions, des outils ou des destinations différents.
Chaque transfert de données engendre une nouvelle décision en matière d'autorisation et de sécurité des données. Les équipes de sécurité doivent comprendre non seulement si les agents peuvent communiquer, mais aussi quelles informations et quels droits peuvent être transmis lors de cette communication.
Voir Sécurité des agents IA à agents.
8. IA de l'Ombre
L'IA non autorisée peut créer des flux de données que les équipes de sécurité n'ont jamais approuvés intentionnellement. Les employés peuvent ainsi transmettre des informations sensibles à des applications d'IA externes ou connecter des outils d'IA aux systèmes de l'entreprise sans supervision adéquate.
IA de l'ombre Cela représente donc bien plus qu'un simple manque d'inventaire. Cela peut créer une relation inconnue entre les données d'entreprise, l'IA externe, les identités des utilisateurs et les destinations tierces.
Surface d'attaque de l'IA vs. exposition des données de l'IA
La surface d'attaque de l'IA et l'exposition des données d'IA sont étroitement liées, mais elles répondent à des questions de sécurité différentes. Les distinguer permet aux équipes de déterminer s'il est nécessaire de bloquer une faille de sécurité, de réduire les données sensibles associées, de restreindre les autorisations ou de réagir à un incident réel.
| Concept | Question principale | Exemple |
|---|---|---|
| Surface d'attaque de l'IA | Où les systèmes d'IA peuvent-ils être attaqués, manipulés, compromis ou utilisés à mauvais escient ? | Invites, API, outils, agents, modèles, mémoire, infrastructure |
| Surface d'attaque des données d'IA | Quels sont les liens entre l'IA, les données d'entreprise et les actions liées aux données ? | Récupération RAG, comptes de service, connecteurs, magasins de vecteurs, outils d'agent |
| Exposition des données de l'IA | Quelles données sensibles l'IA peut-elle atteindre dans des conditions risquées ou inutiles ? | Un copilote peut récupérer des fichiers confidentiels grâce à des autorisations excessives. |
| Exfiltration de données IA | Des données sensibles ont-elles été transférées vers une destination non autorisée ? | Un agent récupère les dossiers clients et les envoie à l'extérieur. |
Une progression utile est Surface d'attaque → Exposition → Exploitation → Impact. Toutes les attaques ne présentent pas de vulnérabilité matérielle, et toutes les vulnérabilités ne sont pas exploitées. Réduire les attaques inutiles et les risques d'exposition de données sensibles qu'elles impliquent diminue les possibilités pour les attaquants, les usurpations d'identité et les comportements dangereux de l'IA de causer un impact significatif.
Comment cartographier la surface d'attaque des données d'IA ? ...
Une cartographie pertinente de la surface d'attaque doit retracer l'ensemble des liens entre l'IA, l'identité, l'autorité, les données et les actions. Un inventaire de l'IA recense les systèmes existants. Une cartographie de la surface d'attaque explique ce que ces systèmes peuvent atteindre et ce qui peut se produire via ces connexions.
Tracez le chemin, pas seulement l'actif IA
IA → Identité → Autorité → Accès → Données → Outil → Destination
1. IA
Quel modèle, copilote, application, système RAG ou agent ?
2. Identité
Quelle identité, humaine ou non humaine, permet l'authentification ?
3. Autorité
À qui s'applique ce flux de travail ?
4. Accès
Quelles sont les autorisations et les voies de récupération existantes ?
5. Données
Quelles informations sensibles se cachent derrière ces images ?
6. Outil
Quelles actions l'IA peut-elle exécuter ?
7. Destination
Où peuvent être stockées les données ou actions sensibles ?
Si la sécurité ne peut pas retracer cette chaîne, elle ne peut pas expliquer pleinement la surface d'attaque des données d'IA.
Étape 1 : Systèmes d’IA d’inventaire
Identifiez les modèles, agents, copilotes, applications d'IA, systèmes RAG, ensembles de données, bases de données vectorielles, invites, pipelines et autres ressources d'IA, qu'ils soient autorisés ou non. Cet inventaire constitue le point de départ, et non l'évaluation finale des risques.
Étape 2 : Cartographier les identités de l'IA
Identifiez les utilisateurs, applications, comptes de service, identités machine, API et identités déléguées qui autorisent l'accès. Dans la mesure du possible, associez chaque identité non humaine à un propriétaire et à une finalité professionnelle approuvée.
Étape 3 : Cartographier les autorisations effectives
Ne vous limitez pas aux droits d'accès directs. Prenez en compte les groupes, les groupes imbriqués, l'accès hérité, les autorisations d'application, l'autorité déléguée, les ressources partagées, les connecteurs et autres voies indirectes permettant à l'IA d'accéder aux informations de l'entreprise.
Étape 4 : Connexion de l’accès aux données sensibles
Déterminez ce qui se cache derrière chaque autorisation. Priorisez les accès liés aux informations réglementées, confidentielles, exclusives, aux identifiants, aux données personnelles, de santé, financières et critiques pour l'entreprise, afin que l'équipe de sécurité puisse distinguer les connexions à faible impact des expositions importantes.
Étape 5 : Chemins de récupération de la carte
Découvrez comment l'IA transforme l'information accessible en contexte exploitable grâce à la recherche d'entreprise, aux architectures de recherche, d'accès, d'indexation, de stockage vectoriel, d'API, de connecteurs et de bases de connaissances. L'architecture de recherche peut influencer la facilité avec laquelle les autorisations existantes se traduisent concrètement par une accessibilité optimale des données.
Étape 6 : Cartographie des capacités
Déterminez si le système d'IA peut lire, écrire, modifier, supprimer, envoyer, partager, exécuter, invoquer ou déléguer. Des capacités plus étendues peuvent accroître l'impact potentiel, notamment lorsque des actions puissantes sont liées à des informations sensibles.
Étape 7 : Cartographier les destinations
Déterminez où les informations peuvent être stockées après leur récupération. Les destinations pertinentes peuvent inclure les utilisateurs, les applications SaaS, les API externes, d'autres agents, les systèmes de messagerie, les plateformes de collaboration et d'autres référentiels.
Étape 8 : Ajouter une activité
Enfin, il convient de distinguer les vecteurs d'attaque potentiels de ceux qui témoignent d'une utilisation active. Il faut identifier les systèmes d'IA qui accèdent effectivement à des données sensibles, utilisent des outils, déplacent des informations ou effectuent des actions ayant des conséquences. L'activité ne crée pas la surface d'attaque, mais elle peut aider les équipes à prioriser les risques théoriques devenus opérationnels.
Comment prioriser les voies d'attaque des données d'IA
Se contenter de compter les connexions d'IA génère du bruit. Une meilleure approche consiste à évaluer ce qui se cache derrière chaque chemin, l'étendue de l'accès, la capacité pratique de l'IA à récupérer l'information, les fonctionnalités existantes et les prochaines étapes possibles pour les données ou les actions.
Priorité du chemin d'attaque
Toutes les connexions à l'IA ne méritent pas la même réponse.
Priorité
Sensibilité des données × Étendue de l'accès × Accessibilité de la récupération × Capacité × Activité × Risque lié à la destination
Il s'agit d'un modèle de priorisation, et non d'une formule mathématique universelle. Les organisations doivent pondérer les facteurs en fonction de leur impact sur l'activité, de l'architecture, du modèle de menace, de la politique et de la tolérance au risque.
Par exemple, un chemin d'accès en lecture seule inactif à la documentation publique devrait généralement être moins prioritaire qu'un agent activement utilisé disposant d'un large accès aux dossiers clients et de l'autorisation d'envoyer des données en externe.
Le contexte transforme l'inventaire de la surface d'attaque en priorisation de la sécurité.
Comment réduire la surface d'attaque des données d'IA ?
Les organisations ne peuvent pas supprimer tous les liens entre l'IA et les données d'entreprise sans réduire considérablement la valeur ajoutée de l'IA. L'objectif pratique est donc de supprimer les connexions inutiles, de limiter les autorisations excessives, de restreindre les fonctionnalités à fort impact et d'offrir aux équipes de sécurité une visibilité sur les connexions restantes.
1. Réduire l'accès excessif
Supprimer les autorisations dont les systèmes d'IA n'ont pas besoin pour leur finalité approuvée. Appliquer moindre privilège aux données sensibles sous-jacentes à l'IA, et pas seulement à l'application d'IA elle-même.
2. Réduire les données inutiles
Les données obsolètes, dupliquées, périmées, conservées en excès et inutiles augmentent ce que l'IA peut potentiellement récupérer sans nécessairement apporter de valeur ajoutée à l'entreprise. Minimisation des données peut donc réduire à la fois l'exposition des données et la quantité d'informations inutiles qui se trouvent derrière les voies d'accès à l'IA.
3. Sécurisation et récupération du RAG
Vérifiez les autorisations d'accès aux sources, les index, les bases de données vectorielles, les identités de récupération, les connecteurs et la logique d'autorisation. La récupération doit respecter les limites d'accès et la finalité métier associées aux informations sous-jacentes.
4. Restreindre les capacités des agents
N’accordez aux agents que les outils et les actions nécessaires à leur mission. Dans la mesure du possible, dissociez l’accès en lecture des droits d’écriture, d’envoi, de modification, de suppression, d’exécution et autres actions ayant des conséquences importantes, et exigez une autorisation renforcée pour les actions à fort impact.
5. Gouverner l'autorité déléguée
Il est essentiel de comprendre les autorisations dont dispose un agent et comment leur autorité évolue au fil des déplacements d'un flux de travail entre utilisateurs, applications, outils et autres agents. La délégation ne doit pas étendre automatiquement les capacités d'accès ou d'action d'un système d'IA.
6. Protéger les invites et les interactions avec l'IA
Surveiller les informations sensibles saisies dans les invites et apparaissant dans les réponses, relier les violations aux utilisateurs et aux politiques, et enquêter sur les interactions à risque. Sécurité rapide de l'IA ajoute un point de contrôle supplémentaire autour des informations entrant et sortant des interactions avec l'IA.
7. Contrôler les destinations
Limitez les endroits où l'IA peut envoyer, écrire ou partager des informations sensibles après leur récupération. Une source peut disposer de contrôles de sécurité appropriés, tandis qu'une application, un agent ou un service externe en aval peut présenter un profil de risque différent.
Une source sécurisée ne garantit pas une destination sécurisée.
8. Surveiller l'activité des données
Suivez l'accès, la récupération, le déplacement, le partage, la modification et la suppression des données en tenant compte de leur contexte et de l'identité des utilisateurs. L'activité permet aux équipes de déterminer quels parcours potentiels révèlent une utilisation réelle et quelles combinaisons à haut risque nécessitent une enquête immédiate.
9. Trouver Shadow AI
Identifier les applications d'IA non approuvées et les flux de données qui y sont liés et qui échappent à la gouvernance attendue. L'analyse doit permettre de relier la ressource d'IA aux informations sensibles et aux relations d'accès qui en confèrent toute importance.
10. Remédier et redessiner la carte
La réduction de la surface d'attaque exige un processus continu. Il faut supprimer les accès inutiles, corriger les partages non sécurisés, minimiser les données, limiter les capacités, appliquer les politiques de sécurité et fermer les failles de sécurité. Ensuite, il convient de cartographier à nouveau la surface d'attaque afin de déterminer si l'exposition a diminué et si de nouvelles failles sont apparues.
Réduire l'accès à l'IA
Identifiez les autorisations d'IA qui créent un risque significatif lié aux données
Associez directement les identités IA et les autorisations effectives aux informations sensibles de l'entreprise, puis priorisez les accès excessifs et appliquez le principe du moindre privilège.
Que doivent mesurer les RSSI ?
Le nombre d'applications d'IA recensées permet aux responsables de la sécurité d'évaluer la vitesse de croissance de cet environnement, mais n'explique pas l'impact potentiel de ces systèmes. Une stratégie de mesure plus rigoureuse permet de suivre l'évolution des liens entre l'IA, les données sensibles, les privilèges et les actions en aval.
| Métrique | Ce que cela montre |
|---|---|
| Systèmes d'IA connectés à des données sensibles | Taille de la surface sensible des données d'IA |
| Parcours IA-données à haut risque | Les relations ayant le plus grand potentiel d'impact |
| Identités d'IA disposant d'un accès excessif | Autonomie inutile accordée à l'IA |
| Données sensibles accessibles via RAG | Surface d'attaque liée à la récupération |
| Agents dotés de capacités importantes | Là où la récupération peut se transformer en action |
| Connexions non approuvées entre l'IA et les données | IA fantôme et chemins non gérés |
| Chemins de données sensibles actifs | Quelles voies théoriques montrent une utilisation réelle |
| Les voies d'attaque ont été éliminées | Réduction mesurée de la portée inutile de l'IA |
| Temps moyen de réduction des trajets à haut risque | La rapidité avec laquelle une découverte se transforme en action corrective |
L'indicateur le plus pertinent n'est pas la quantité d'IA découverte par l'organisation, mais plutôt la quantité de données sensibles et d'autorité à fort impact inutiles qu'elle a supprimées.
Comment BigID contribue à cartographier et à réduire la surface d'attaque des données d'IA
BigID aborde la sécurité de l'IA en partant des données. Cette approche est cruciale car la surface d'attaque d'un système d'IA devient beaucoup plus critique lorsqu'il se connecte à des informations sensibles d'entreprise, à des autorisations excessives, à des identités puissantes, à des chemins de récupération actifs et à des actions en aval.
Au lieu de traiter la découverte de l'IA, la sécurité des données, l'identité et la remédiation comme des problèmes isolés, BigID aide à relier les relations qui déterminent les risques importants liés aux données d'IA :
IA → Identité → Autorité → Accès → Données sensibles → Activité → Outil → Destination
BigID aide les organisations :
- Découvrir et gouverner l'IA : Connectez les modèles, les agents, les copilotes, les invites, les ensembles de données, les magasins de vecteurs, les pipelines et l'IA fantôme aux données sensibles, à la propriété, à la lignée, aux identités, aux autorisations, aux politiques et aux risques.
- Découvrir et classer les données sensibles : Identifier les informations réglementées, confidentielles, exclusives, d'identification, personnelles, de santé, financières et critiques pour l'entreprise dans les environnements d'entreprise.
- Comprendre l'accès à l'IA : Associez les identités et les voies d'accès de l'IA aux données sensibles de l'entreprise afin d'identifier les situations où les autorisations créent une exposition inutile.
- Identifier les accès excessifs : Identifiez les accès étendus, obsolètes, hérités, inutiles, externes et à haut risque liés à des informations sensibles.
- Ajouter le contexte de l'activité : Comprendre comment les données sensibles sont consultées, déplacées, téléchargées, partagées, modifiées ou supprimées dans les environnements cloud, SaaS, hybrides, sur site et connectés à l'IA pris en charge.
- Protéger les interactions avec l'IA : Surveillez les données sensibles dans les invites et les réponses et reliez les violations aux utilisateurs, aux conversations, aux politiques et aux flux de travail de réponse.
- Réduire les données inutiles : Identifier les informations périmées, redondantes, dupliquées, obsolètes et conservées en excès qui augmentent inutilement le volume de données disponibles pour l'IA.
- Réduire les risques : Prioriser l'exposition, réduire les accès excessifs, appliquer la politique, attribuer la propriété, supprimer les données inutiles et coordonner la remédiation dans les environnements d'entreprise.
Cette approche déplace l'attention du simple comptage des actifs d'IA vers la compréhension et la réduction des facteurs susceptibles d'avoir un impact significatif sur les données.
Le test CISO pour la visibilité de la surface d'attaque des données d'IA
Une équipe de sécurité doit pouvoir passer d'un système d'IA découvert aux données sensibles, aux autorisations, aux activités et aux capacités en aval qui y sont liées. Les questions suivantes constituent un test pratique.
Préparation de la surface d'attaque
Votre équipe de sécurité peut-elle répondre à ces questions ?
✓ Quels systèmes d'IA se connectent à des données d'entreprise sensibles ?
✓ Quelles identités permettent ces connexions ?
✓ À qui s'applique chaque flux de travail d'IA ?
✓ Quelles autorisations sont directes, héritées ou déléguées ?
✓ Quels systèmes RAG et quels magasins de vecteurs contiennent des informations sensibles ?
✓ Quels systèmes d'IA disposent d'un accès excessif ?
✓ Quels agents peuvent écrire, envoyer, modifier, supprimer ou invoquer des outils ?
✓ Quels systèmes d'IA peuvent communiquer avec d'autres agents ?
✓ Où peuvent être stockées les informations sensibles après leur récupération ?
✓ Quels chemins de données d'IA présentent une utilisation active ?
✓ Quels sont les chemins de données d'IA non approuvés existants ?
✓ Peut-on prouver que la surface d'attaque des données d'IA à haut risque se réduit ?
Si la sécurité ne peut pas répondre à plusieurs de ces questions, l'organisation risque de posséder un inventaire d'IA sans cartographie fiable de sa surface d'attaque des données d'IA.
La surface d'attaque des données de l'IA continuera d'évoluer.
La gestion de la surface d'attaque de l'IA ne peut reposer sur un schéma d'architecture statique. Les modèles évoluent, les permissions changent, les employés connectent des applications, les agents acquièrent de nouveaux outils, les systèmes RAG intègrent de nouvelles sources de données, de nouvelles identités de machines apparaissent et les informations d'entreprise circulent entre les référentiels. Les flux de travail multi-agents peuvent introduire des connexions supplémentaires lorsque les agents échangent du contexte ou s'appellent mutuellement.
Les processus métier peuvent également conférer de nouvelles autorisations à l'IA sans modifier le modèle sous-jacent. Un agent initialement conçu comme un assistant en lecture seule peut ultérieurement obtenir l'autorisation de mettre à jour des enregistrements, d'envoyer des messages, d'appeler des API ou de déclencher des flux de travail. Chaque modification peut altérer la relation entre l'IA, les données sensibles, l'identité, l'accès et les actions.
La surface d'attaque des données d'IA évolue à chaque modification des relations entre l'IA, l'identité, les données, l'accès ou l'action.
Les équipes de sécurité ont donc besoin d'une visibilité continue sur ces relations, et non d'un simple inventaire ponctuel. L'objectif est d'identifier les chemins d'accès critiques, de réduire ceux qui sont inutiles à l'entreprise et de surveiller ceux qu'elle choisit de conserver.
Connecter les points entre les données et l'IA
Cartographiez les trajectoires de l'IA qui comptent
Découvrez comment BigID connecte les systèmes d'IA aux données sensibles, aux identités, aux accès, aux activités, aux politiques et aux risques afin que les équipes de sécurité puissent identifier les solutions à fort impact et réduire l'exposition inutile.
FAQ sur la surface d'attaque des données IA
Quelle est la surface d'attaque des données d'IA ?
La surface d'attaque des données de l'IA comprend les chemins, les autorisations, les interfaces, les identités, les sources de données, les systèmes de récupération, les outils et les destinations par lesquels l'IA peut accéder aux données sensibles de l'entreprise ou influencer leur traitement.
Quelle est la différence entre la surface d'attaque de l'IA et la surface d'attaque des données de l'IA ?
La surface d'attaque globale de l'IA comprend les modèles, les applications, l'infrastructure, les invites, les API, les agents, les outils, les composants de la chaîne d'approvisionnement et autres points d'attaque potentiels. La surface d'attaque des données de l'IA se concentre sur les voies qui relient ces systèmes aux données de l'entreprise et aux actions liées aux données.
Pourquoi l'IA élargit-elle la surface d'attaque des entreprises ?
Les systèmes d'IA se connectent de plus en plus aux données, identités, applications, API, systèmes de récupération, outils et autres agents de l'entreprise. Chaque connexion peut créer une nouvelle voie d'accès à des informations sensibles ou à des actions privilégiées.
Comment RAG élargit-il la surface d'attaque des données d'IA ?
RAG ajoute des référentiels de sources, des index, des bases de données vectorielles, des connecteurs, des identités de récupération, une logique d'autorisation et un contexte de retour entre le modèle et les données d'entreprise. Ces composants créent des chemins supplémentaires que les équipes de sécurité doivent comprendre et contrôler.
Comment les agents d'IA étendent-ils la surface d'attaque ?
Les agents d'IA peuvent combiner l'accès aux données, l'autonomie et l'utilisation d'outils. Un agent peut récupérer des informations sensibles, puis les modifier, les envoyer, les supprimer, appeler des API ou communiquer avec d'autres agents, ce qui accroît l'impact potentiel d'une faille de sécurité ou d'une utilisation abusive.
Comment les autorisations affectent-elles la surface d'attaque des données d'IA ?
Les autorisations déterminent les données et les systèmes auxquels l'IA peut accéder, ainsi que les actions qu'elle peut effectuer. Des autorisations trop larges, obsolètes, héritées ou inutiles peuvent accroître le nombre et la gravité des failles de sécurité.
Quelle est la différence entre la surface d'attaque des données d'IA et l'exposition des données d'IA ?
La surface d'attaque des données IA décrit les voies par lesquelles l'IA peut accéder aux données d'entreprise ou aux actions qui y sont liées. L'exposition des données IA décrit la situation dans laquelle des données sensibles deviennent accessibles dans des circonstances inappropriées ou inutiles. Les voies d'attaque peuvent engendrer une exposition, mais ces concepts mesurent différentes composantes du risque.
Comment cartographier la surface d'attaque des données d'IA ?
Les systèmes d'IA d'inventaire cartographient les identités humaines et non humaines, déterminent les autorisations effectives et l'autorité déléguée, connectent l'accès aux données sensibles, cartographient les chemins et les outils de récupération, identifient les destinations possibles et ajoutent un contexte d'activité pour déterminer quels chemins montrent une utilisation réelle.
Comment les organisations peuvent-elles réduire la surface d'attaque des données d'IA ?
Les organisations peuvent réduire les accès excessifs, minimiser les données inutiles, sécuriser la récupération des RAG, limiter les capacités des agents, gérer l'autorité déléguée, protéger les interactions avec l'IA, contrôler les destinations, surveiller l'activité, découvrir l'IA fantôme et corriger en permanence les chemins à haut risque.
Quelles sont les métriques de surface d'attaque de l'IA que les RSSI doivent surveiller ?
Les indicateurs utiles comprennent les systèmes d'IA connectés à des données sensibles, les chemins d'accès IA-données à haut risque, les identités d'IA disposant d'un accès excessif, les données sensibles accessibles via RAG, les agents dotés de capacités importantes, les connexions IA-données non approuvées, les chemins d'accès aux données sensibles activement utilisés, le temps de remédiation et les chemins d'attaque éliminés.
Comment BigID contribue-t-il à réduire la surface d'attaque des données d'IA ?
BigID connecte les systèmes d'IA aux données sensibles, aux identités, aux autorisations, aux activités, à la propriété, à la traçabilité, aux politiques et aux risques. Cela permet aux organisations d'identifier les flux de données critiques liés à l'IA, de prioriser les accès et les expositions excessifs, de réduire les données inutiles, de protéger les interactions avec l'IA et de coordonner les mesures correctives.
Auteur
