Skip to content

Cycle de vie des modèles d'IA : étapes, sécurité et gouvernance

Un modèle d'IA peut être exceptionnellement performant lors des tests et pourtant présenter des risques sérieux une fois mis en production.

Le problème ne réside peut-être pas dans le modèle lui-même. Il peut s'agir des données sensibles utilisées pour son entraînement, des autorisations accordées à son application, d'un ensemble de données non documenté ou d'un changement dans la manière dont les employés et les agents d'IA interagissent avec lui.

C'est pourquoi le cycle de vie d'un modèle d'IA Il ne s'agit plus seulement d'un processus de science des données. C'est aussi une responsabilité en matière de sécurité, de gouvernance des données et de gestion des risques commerciaux.

Les organisations doivent comprendre comment les systèmes d'IA sont planifiés, développés, testés, déployés, surveillés et finalement mis hors service. Il est tout aussi important qu'elles sachent quelles données alimentent ces systèmes, qui peut y accéder et comment les risques évoluent tout au long de leur fonctionnement.

Ce guide explique les sept étapes du cycle de vie d'un modèle d'IA, les contrôles requis à chaque étape et comment les entreprises peuvent gérer les modèles d'IA, les copilotes, les applications d'IA générative et les agents avec une visibilité et une responsabilité accrues.

LES ESSENTIELS

Cycle de vie d'un modèle d'IA : points clés à retenir

  • Le cycle de vie du modèle d'IA couvre la planification, la préparation des données, le développement du modèle, l'évaluation, le déploiement, le suivi et la mise hors service.
  • La sécurité de l'IA commence avant même son entraînement. Les données sensibles, la propriété, l'utilisation autorisée et la provenance doivent être évaluées avant que les informations ne soient intégrées à un pipeline d'IA.
  • La gouvernance s'applique à chaque étape. Les politiques, la responsabilisation, les évaluations des risques, les contrôles d'accès et la documentation doivent suivre le modèle tout au long de son cycle de vie.
  • L'IA générative accroît les risques liés au cycle de vie. Les systèmes RAG, les copilotes, les modèles tiers et les agents d'IA introduisent de nouvelles dépendances en matière d'accès aux données et d'opérations.
  • Le déploiement n'est pas la ligne d'arrivée. Les modèles, les ensembles de données, les autorisations, l'utilisation et les réglementations évoluent, ce qui nécessite une surveillance et une réévaluation continues.
  • La retraite est importante. Les organisations doivent révoquer l'accès, traiter les données conservées et les artefacts de modélisation, et documenter les décisions de mise hors service.

Quel est le cycle de vie d'un modèle d'IA ?

Le cycle de vie d'un modèle d'IA Il s'agit du processus de bout en bout consistant à planifier, construire ou sélectionner, évaluer, déployer, exploiter et mettre hors service un modèle d'intelligence artificielle.

Pour l'apprentissage automatique traditionnel, cela comprend la collecte et la préparation des données d'entraînement, la sélection des algorithmes, l'entraînement des modèles, la validation des performances et le suivi des résultats en production.

Pour l'IA générative d'entreprise, le cycle de vie peut également impliquer la sélection de modèles de base tiers, la configuration d'invites, le réglage fin, la connexion de pipelines de génération augmentée par récupération (RAG), l'octroi d'autorisations d'outils et la gouvernance de la manière dont les applications d'IA utilisent les informations de l'entreprise.

Le cycle de vie est itératif. La surveillance peut révéler la nécessité de mettre à jour les données, de modifier les contrôles, de réentraîner un modèle, de modifier un déploiement ou de remplacer entièrement le système.

Cycle de vie d'un modèle d'IA vs. cycle de vie d'un système d'IA

Ces termes sont étroitement liés, mais ils ne sont pas identiques.

Le cycle de vie du modèle se concentre sur l'artefact du modèle et son développement, son évaluation, son déploiement et sa maintenance. cycle de vie d'un système d'IA est plus large : il inclut les applications, les personnes, les pipelines de données, les identités, les outils et les processus métier qui entourent ce modèle.

Cette distinction est importante car une organisation peut déployer un modèle sécurisé au sein d'une application non sécurisée. Un modèle peut se comporter comme prévu tandis qu'un connecteur trop permissif expose des données confidentielles.

Une gouvernance d'entreprise efficace doit donc couvrir les deux.

Les 7 étapes du cycle de vie d'un modèle d'IA

Il n'existe pas de modèle de cycle de vie unique et obligatoire pour toutes les organisations. Certains cadres combinent la planification et la collecte de données, ou considèrent la mise hors service comme faisant partie de la maintenance continue.

Pour la sécurité et la gouvernance d'entreprise, l'approche en sept étapes suivante facilite l'identification des responsabilités et des points de contrôle.

CADRE DU CYCLE DE VIE

Sept étapes. Responsabilisation continue.

1 Planifier et évaluer : Définir l'objectif, la propriété, les exigences et le niveau de risque acceptable.
2 Collecte et préparation des données : Vérifier la qualité, la sensibilité, les autorisations, la provenance et l'utilisation autorisée.
3 Développer ou configurer : Entraînez, affinez, sélectionnez ou intégrez le modèle.
4 Évaluer et valider : Tester les performances, la sécurité, la confidentialité, la robustesse et la conformité aux politiques.
5 Déploiement et intégration : Infrastructure sécurisée, API, accès aux données et flux de production.
6 Surveiller et améliorer : Détecter les dérives, les changements d'accès, les nouveaux risques et les défaillances de contrôle.
7 Retirer ou remplacer : Révoquer l'accès, gérer les actifs conservés et préserver les preuves requises.

La gouvernance, la sécurité des données et la gestion des risques sont présentes dans l'ensemble des sept étapes.

Étape 1 : Planification et évaluation des risques

Toute initiative en matière d'IA doit débuter par un objectif commercial clairement défini. Avant de choisir un modèle ou de collecter des données, les équipes doivent déterminer les fonctionnalités attendues du système, les décisions qu'il pourrait influencer et les personnes responsables de son fonctionnement.

Les principales activités comprennent :

  • Définir l'objectif commercial et les utilisateurs cibles.
  • Identifier les propriétaires des modèles, les propriétaires des données et les parties prenantes habilitées à approuver.
  • Documenter les sources de données prévues et les finalités du traitement.
  • Évaluation de l'impact sur la sécurité, la confidentialité, les aspects juridiques et commerciaux.
  • Déterminer si le système nécessite une supervision ou une approbation humaine supplémentaire.

Point de contrôle de sécurité et de gouvernance : L’organisation peut-elle expliquer pourquoi ce système d’IA existe, de quelles informations il a besoin et quels risques sont acceptables avant le début de son développement ?

Étape 2 : Collecte et préparation des données

Les performances de l'IA dépendent fortement des données disponibles pour le modèle. Les équipes collectent, nettoient, normalisent, transforment, étiquettent et intègrent les informations afin de faciliter l'entraînement, l'évaluation, le réglage fin ou la recherche.

La préparation des données est également l'un des points de contrôle de sécurité les plus importants.

Un ensemble de données peut contenir des informations personnelles, des données financières, de la propriété intellectuelle, des identifiants, du contenu obsolète ou des informations soumises à des restrictions contractuelles et réglementaires.

Avant que les données ne soient intégrées à un flux de travail d'IA, les organisations doivent :

  • Découvrir et classer les informations sensibles et réglementées.
  • Vérifier la provenance des données, leur propriété et leur utilisation autorisée.
  • Identifier les enregistrements inutiles, dupliqués, inexacts ou obsolètes.
  • Appliquer les techniques de minimisation, de masquage, de dépersonnalisation ou d'exclusion appropriées.
  • Suivre la lignée entre les systèmes sources et les ensembles de données d'IA.
  • Examiner les exigences en matière de maintien en poste, de résidence et d'accès.

Point de contrôle de sécurité et de gouvernance : Les données sont-elles appropriées à cette fin d'IA, et l'organisation peut-elle démontrer leur provenance et comment elles sont protégées ?

Explorez les produits BigID capacités de découverte et de classification des données pour comprendre les informations qui alimentent l'IA d'entreprise.

Étape 3 : Développement et configuration du modèle

En apprentissage automatique traditionnel, cette étape comprend la sélection de l'algorithme, l'ingénierie des caractéristiques, l'entraînement et le réglage des hyperparamètres.

Pour l'IA générative, les organisations peuvent choisir un modèle de base, configurer les instructions système, affiner un modèle existant, connecter une base de connaissances ou créer une application RAG.

Ces approches soulèvent différentes considérations de sécurité.

L'entraînement et le réglage fin nécessitent un examen approfondi des données utilisées pour façonner le comportement du modèle. Les applications RAG requièrent des contrôles sur les informations extraites. Les modèles tiers nécessitent des évaluations des fournisseurs et du traitement des données.

Les équipes de sécurité doivent examiner :

  • Formation et optimisation de l'accès aux données.
  • Artefacts de modélisation, référentiels, secrets et environnements de développement.
  • Licences de modèles de tiers, politiques de conservation et obligations contractuelles.
  • Sources RAG, stockage de vecteurs et autorisations de récupération.
  • comptes de service et identités machine utilisé par les pipelines d'IA.

Point de contrôle de sécurité et de gouvernance : L'organisation est-elle capable de retracer les dépendances de développement du modèle et d'appliquer des contrôles appropriés sur ses données et ses intégrations ?

Étape 4 : Évaluation et validation du modèle

L'évaluation du modèle détermine si le système est prêt pour l'usage auquel il est destiné. La précision et la performance restent importantes, mais elles ne garantissent pas la sécurité ni la gouvernance appropriée d'un système d'IA.

L'évaluation traditionnelle de l'apprentissage automatique peut s'appuyer sur la précision, le rappel, le score F1, l'aire sous la courbe ROC (AUC-ROC) et l'étalonnage. L'évaluation de l'IA générative peut également prendre en compte la véracité des données, la réussite de la tâche, la qualité de la recherche, la sécurité et le respect des consignes.

La validation d'entreprise doit inclure des tests pertinents pour :

  • Divulgation de données sensibles et récupération non autorisée.
  • Injection et manipulation rapides de contenu non fiable.
  • Biais, équité et conséquences néfastes des décisions.
  • Réponses inexactes ou trompeuses.
  • Utilisation dangereuse d'outils et actions autonomes.
  • Conformité réglementaire, contractuelle et aux politiques internes.

Point de contrôle de sécurité et de gouvernance : Les éléments de preuve démontrent-ils que le modèle est adapté à l'usage prévu et que les risques inacceptables ont été pris en compte ?

Étape 5 : Déploiement et intégration

Le déploiement permet de transférer le modèle dans un environnement de production où les personnes, les applications et les processus métier peuvent l'utiliser.

Pour l'IA d'entreprise, le déploiement peut impliquer des services cloud, des API, des fonctionnalités SaaS intégrées, une infrastructure sur site, des pipelines RAG, des copilotes ou des frameworks d'agents.

La sécurité en production doit prendre en compte l'authentification, le chiffrement, le renforcement de l'infrastructure, la sécurité des API, la surveillance et le principe du moindre privilège.

D'autres questions spécifiques à l'IA incluent :

  • Quels employés, applications et agents peuvent invoquer le modèle ?
  • Quelles sont les sources de données qu'il peut extraire ?
  • Les autorisations au niveau de la source sont-elles préservées lors de la récupération ?
  • L'IA peut-elle envoyer des informations à l'extérieur ou modifier les données de l'entreprise ?
  • Les actions à fort impact sont-elles soumises à approbation ?
  • L'accès peut-il être révoqué rapidement en cas de changement de risque ?

Point de contrôle de sécurité et de gouvernance : Le système d'IA déployé fonctionne-t-il dans le respect des limites documentées en matière de données, d'identité et d'action ?

SÉCURITÉ ET GOUVERNANCE DE L'IA

Découvrez ce qui alimente votre IA

Découvrez les modèles et agents d'IA, comprenez les données sensibles qui les sous-tendent, cartographiez les accès et la traçabilité, et transformez les exigences de gouvernance en contrôles opérationnels.

Explorer la gouvernance de l'IA →

Étape 6 : Surveillance, maintenance et amélioration

Les systèmes d'IA évoluent après leur déploiement. De nouveaux ensembles de données deviennent disponibles, les autorisations s'étendent, les applications s'intègrent davantage, les modèles sont mis à jour et les utilisateurs découvrent de nouvelles façons d'interagir avec eux.

La surveillance doit donc couvrir à la fois les performances du modèle et le niveau de sécurité environnant.

Les organisations doivent assurer le suivi :

  • Dérive du modèle, précision, fiabilité et comportement inattendu.
  • Modifications apportées aux données d'entraînement, aux sources de récupération et à la traçabilité des données.
  • Nouvelle exposition de données sensibles et autorisations excessives.
  • Outils d'IA non autorisés ou intégrations non approuvées.
  • Violations de la politique de réponse rapide.
  • Activité des agents, exécution des outils et mouvements de données inhabituels.
  • Constatations relatives aux risques ouverts, état des mesures correctives et déclencheurs de réévaluation.

Les mises à jour et les formations relatives aux modèles doivent suivre des processus d'examen et d'approbation documentés lorsqu'elles ont une incidence importante sur le risque.

Point de contrôle de sécurité et de gouvernance : Les équipes peuvent-elles détecter quand un système d'IA précédemment approuvé devient plus risqué et prendre des mesures correctives ?

Étape 7 : Mise hors service, remplacement et déclassement

Les modèles d'IA finissent par devenir obsolètes, non pris en charge, inutiles ou inadaptés à l'usage auquel ils sont destinés.

La mise hors service est souvent négligée, mais un modèle inactif peut laisser derrière lui des ensembles de données sensibles, des identifiants, des points de terminaison, des magasins de vecteurs, des journaux ou des dépendances tierces.

Un processus de retraite contrôlé devrait :

  • Identifier les applications dépendantes et les flux de travail métier.
  • Révoquer les comptes de service, les jetons d'API et les autorisations d'agent.
  • Désactivez les points de terminaison et les intégrations inutilisés.
  • Appliquer rétention et suppression politiques relatives aux ensembles de données, aux plongements lexicaux, aux journaux et aux artefacts de modèles.
  • Conservez les documents et enregistrements d'audit requis.
  • Consignez la décision de mise à la retraite et le nom du propriétaire responsable.

Point de contrôle de sécurité et de gouvernance : L'organisation a-t-elle supprimé les accès inutiles et traité les données conservées sans détruire les preuves nécessaires ?

Contrôles de sécurité et de gouvernance du cycle de vie des modèles d'IA

Chaque étape du cycle de vie introduit des exigences de contrôle différentes. Le tableau ci-dessous donne un aperçu pratique des domaines sur lesquels les équipes de sécurité et de gouvernance devraient concentrer leurs efforts.

MATRICE DE CONTRÔLE DU CYCLE DE VIE

Que faut-il sécuriser à chaque étape ?

Scène Risque principal Contrôle des priorités
Planification Objectif ou propriété incertains Inventaire de l'IA, responsable désigné, évaluation initiale des risques
Préparation des données Données sensibles ou inappropriées Découverte, classification, lignée, minimisation
Développement Dépendances non fiables et pipelines non sécurisés Contrôles d'accès, provenance, sécurité des fournisseurs et des artefacts
Évaluation Comportements dangereux non détectés Tests de sécurité, validation, preuves d'approbation
Déploiement Accès excessif et actions dangereuses Principe du moindre privilège, contrôles d'exécution, barrières d'approbation
Surveillance Dérive, nouvelle exposition, défaillances de contrôle Évaluation continue, alertes, remédiation
Retraite Accès orphelin et actifs sensibles conservés Révocation, contrôles de conservation, registres d'audit

Comment la gestion du cycle de vie des modèles d'IA évolue

Les diagrammes traditionnels du cycle de vie de l'IA supposent souvent qu'une organisation construit et entraîne un modèle avant de le déployer.

De nombreuses entreprises utilisent désormais des modèles commerciaux plutôt que de développer elles-mêmes leurs modèles de base. Elles connectent ces modèles à leurs documents internes, plateformes de collaboration, bases de données, applications et processus métier.

Cela change la donne quant à l'apparition des risques les plus importants en matière de sécurité et de gouvernance.

IA générative et modèles de base

Lorsqu'une entreprise utilise un module de formation en ligne (LLM) hébergé en externe, son contrôle sur le processus de formation sous-jacent du fournisseur peut être limité. Cependant, l'organisation demeure responsable du choix de ses modèles, du partage des données, de la configuration de l'application, de l'accès, des intégrations et de l'utilisation.

La sécurité et la gouvernance doivent donc évaluer à la fois la relation avec le fournisseur et le déploiement au sein de l'entreprise.

Récupération-Génération augmentée

RAG permet à une application d'IA de récupérer des informations provenant de sources de connaissances d'entreprise et d'utiliser ces informations pour générer des réponses.

Contrairement à un processus de formation classique, les informations extraites peuvent évoluer en continu. Les mesures de sécurité doivent prendre en compte les autorisations d'accès à la source, la classification des données sensibles, leur traçabilité, leur indexation et l'autorisation d'accès lors de leur extraction.

Un modèle n'a pas besoin de mémoriser des données confidentielles pour les divulguer. Il peut simplement récupérer des informations auxquelles l'utilisateur demandeur ne devrait pas avoir accès.

Agents d'IA et flux de travail autonomes

Les agents d'IA peuvent utiliser des outils, appeler des API, récupérer des informations et exécuter des actions. Leur cycle de vie soulève des problématiques supplémentaires liées à l'identité, aux autorisations déléguées, à la configuration des outils, à l'autonomie et au suivi de l'exécution.

Pour un examen plus approfondi de ces contrôles opérationnels, voir À quel moment la gouvernance s'applique-t-elle dans le cycle de vie d'un agent d'IA ?

EXEMPLES INTERACTIFS

Où interviendriez-vous ?

Sélectionnez un scénario pour révéler le risque lié au cycle de vie et les mesures de contrôle recommandées.

Scénario 1 : Des données clients sensibles sont intégrées à un ensemble de données d’entraînement

Étape du cycle de vie : Collecte et préparation des données.

Risque: Les renseignements personnels peuvent être utilisés sans finalité appropriée, sans autorisation ni minimisation.

Contrôle recommandé : Classer l'ensemble de données, valider l'utilisation autorisée, examiner la traçabilité et exclure ou transformer les informations qui ne conviennent pas à la formation.

Scénario 2 : Un copilote d’entreprise récupère un document à accès restreint

Étape du cycle de vie : Déploiement et surveillance.

Risque: Un système de récupération connecté peut exposer des informations sensibles car les autorisations sont trop larges ou mal appliquées.

Contrôle recommandé : Préserver l'autorisation de la source, corriger les accès excessifs et évaluer en permanence l'exposition des données sensibles.

Scénario 3 : Un agent d’IA mis hors service possède toujours des identifiants API actifs

Étape du cycle de vie : Retraite et mise hors service.

Risque: Les identifiants orphelins peuvent conserver un accès à des systèmes sensibles une fois que le cas d'utilisation professionnel est terminé.

Contrôle recommandé : Révoquer les identités et les jetons, désactiver les intégrations, examiner les données conservées et documenter la mise hors service.

Scénarios illustratifs pour la planification du cycle de vie de l'IA en entreprise.

Cycle de vie des modèles d'IA vs. MLOps vs. Gouvernance de l'IA

Ces disciplines se recoupent, mais elles abordent différents aspects de la gestion de l'IA.

gestion du cycle de vie des modèles d'IA décrit les étapes par lesquelles passe un modèle.

MLOps Il se concentre sur les pratiques d'ingénierie et l'automatisation utilisées pour construire, déployer, versionner, tester et exploiter de manière fiable les systèmes d'apprentissage automatique.

Gouvernance de l'IA établit les responsabilités, les politiques, la supervision, la gestion des risques et les preuves que les systèmes d'IA sont utilisés de manière appropriée.

sécurité de l'IA protège les modèles, les applications, les données, l'infrastructure, les identités et les flux de travail contre tout accès, manipulation, divulgation et utilisation abusive non autorisés.

COMPARAISON DES CADRES

Quatre disciplines, un programme d'IA

Discipline Objectif principal Question clé
cycle de vie du modèle Étapes du modèle de bout en bout Où se situe le modèle dans son cycle de vie ?
MLOps Ingénierie et opérations Pouvons-nous le construire et l'exploiter de manière fiable ?
Gouvernance de l'IA Politique, responsabilité, surveillance Devrions-nous et pouvons-nous l'utiliser de cette façon ?
sécurité de l'IA Protection et réduction des risques À quoi peut-il accéder, qu'est-ce qu'il peut exposer ou modifier ?

Ces capacités fonctionnent mieux ensemble. Un modèle bien géré peut néanmoins enfreindre les règles, et un programme de gouvernance documenté ne peut protéger les données sans contrôles de sécurité applicables.

Exemple de cycle de vie d'un modèle d'IA : Détection de fraude

Prenons l'exemple d'un établissement financier qui développe un modèle d'IA pour identifier les transactions potentiellement frauduleuses.

Le modèle utilise l'historique des transactions, les attributs des comptes, les comportements et d'autres signaux pertinents pour identifier les activités suspectes. L'organisation souhaite améliorer la détection sans exposer inutilement les informations client ni générer de décisions automatisées peu fiables.

Voici comment le cycle de vie s'applique.

CAS D'UTILISATION PRATIQUE / SERVICES FINANCIERS

De la détection des fraudes à l'IA gouvernée

  • Plan: Définir l’objectif de détection des fraudes, les équipes responsables et les taux de faux positifs acceptables.
  • Préparer les données : Classer les informations financières et personnelles sensibles, valider leur utilisation autorisée et documenter leur provenance.
  • Développer: Entraînez ou configurez le modèle à l'aide d'ensembles de données gérés et de pipelines sécurisés.
  • Évaluer: Tester la précision, le rappel, les biais, la sécurité et l'impact potentiel sur les clients.
  • Déployer: Limiter l'accès aux données transactionnelles et prévoir une vérification humaine pour les décisions importantes.
  • Moniteur : Suivre les dérives de performance, les modifications de données, les modèles d'accès et les besoins de correction.
  • Se retirer: Remplacez les versions obsolètes, révoquez les accès inutiles et gérez les ensembles de données et les artefacts conservés.

L'avantage pour l'entreprise ne se limite pas à un modèle plus précis. Il s'agit d'une capacité de détection des fraudes que l'organisation peut exploiter, analyser, gérer et améliorer avec une plus grande confiance.

Comment gouverner les modèles d'IA tout au long de leur cycle de vie

Les équipes de sécurité et de gouvernance devraient pouvoir répondre à un petit nombre de questions concernant chaque système d'IA matériel, quel que soit son stade de développement.

LISTE DE CONTRÔLE DE LA PRÉPARATION DES CADRES SUPÉRIEURS

Sept questions auxquelles tout propriétaire d'IA devrait répondre

1 À qui appartient ce modèle et quel est son usage commercial approuvé ?
2 Quelles données sensibles ou réglementées l'alimentent, le paramétrent ou le guident ?
3 Peut-on retracer ses sources de données, ses transformations et ses dépendances ?
4 Qui ou quoi peut accéder au modèle, à ses données et à ses outils associés ?
5 Quelles sont les preuves d'évaluation et d'analyse des risques qui justifient le déploiement ?
6 Comment détecterons-nous les dérives, les violations de politiques et l'évolution de l'exposition ?
7 Que se passe-t-il lorsque le modèle change, tombe en panne ou est mis hors service ?

Des cadres tels que Cadre de gestion des risques liés à l'IA du NIST et ISO/CEI 42001 peut aider les organisations à structurer les responsabilités en matière de risques et de gestion de l'IA.

Les obligations réglementaires varient selon la juridiction, le type de système, l'usage prévu et le rôle au sein de l'organisation. Les équipes doivent associer les exigences applicables aux contrôles et preuves documentés plutôt que de supposer qu'une seule liste de contrôle couvre tous les déploiements d'IA.

Comment BigID prend en charge la sécurité et la gouvernance du cycle de vie de l'IA

Les organisations ne peuvent pas gouverner efficacement l'IA si elles ne peuvent pas identifier les modèles et les agents utilisés, comprendre les données sous-jacentes ou déterminer qui et quoi peut accéder à ces données.

BigID permet de connecter la découverte par IA, les renseignements sur les données sensibles, la traçabilité, la gouvernance des accès, l'évaluation des risques et la remédiation dans les environnements d'entreprise.

DÉCOUVRIR

Identifier les modèles, les agents et les données d'IA

Découvrez les actifs d'IA autorisés et clandestins, identifiez les données sensibles et établissez un inventaire plus complet des systèmes qui alimentent l'IA d'entreprise.

TRACER

Comprendre la provenance des données d'IA

Relier les données sources, les pipelines, les modèles et l'utilisation de l'IA pour améliorer la transparence des informations dont dépendent les systèmes d'IA.

GOUVERNER

Appliquer des politiques et des contrôles d'accès axés sur les données

Comprendre les autorisations, identifier les accès excessifs, soutenir les évaluations des risques liés à l'IA et opérationnaliser les exigences de gouvernance.

ACTE

Prioriser l'exposition et corriger les risques

Utilisez la sensibilité des données, l'accès, l'activité et le contexte politique pour prioriser les constatations, coordonner les mesures correctives et étayer les preuves de conformité en cours.

Apprenez-en davantage sur BigID Gouvernance de l'IA, Gouvernance des données et de l'IAet Gestion des risques liés à l'IA capacités.

DÉCOUVREZ LE PRODUIT / VISITE AUTOGUIDÉE

Voir la gouvernance des données et de l'IA en action

Explorez les visites guidées des produits BigID pour découvrir comment la découverte, le contexte des données sensibles, la visibilité des accès et la gestion des risques soutiennent l'IA d'entreprise.

Explorez les visites interactives →

Construire un cycle de vie de modèle d'IA plus sécurisé

Le cycle de vie des modèles d'IA offre un cadre utile pour le développement et l'exploitation de l'IA. Cependant, le simple respect de ces étapes ne garantit pas qu'un système d'IA soit sécurisé, conforme ou adapté à l'usage prévu.

Les organisations doivent lier le développement technique à la gouvernance des données, à la sécurité, à l'évaluation des risques et à la responsabilisation.

Cela signifie identifier les données sensibles avant leur entrée dans un pipeline d'IA, protéger l'accès aux modèles et aux applications pendant le déploiement, valider le comportement de l'IA, surveiller l'évolution de l'exposition et gérer les données et les identifiants lors de la mise hors service des systèmes.

Le cycle de vie de l'IA le plus efficace ne se limite pas à accélérer la mise en production des modèles. Il s'agit d'un cycle qui aide l'organisation à comprendre, sécuriser et gouverner l'IA tout au long de son fonctionnement.

SÉCURISEZ LES DONNÉES QUI ALIMENTENT VOTRE IA

Gouverner chaque étape de l'IA d'entreprise

Découvrez les modèles et les agents, comprenez les données sensibles qu'ils utilisent, gérez l'accès et transformez les risques liés à l'IA en contrôles opérationnels grâce à BigID.

Explorer la gouvernance de l'IA →
Visite guidée du produit →

FAQ sur le cycle de vie des modèles d'IA

Quel est le cycle de vie d'un modèle d'IA ?

Le cycle de vie d'un modèle d'IA est le processus de bout en bout qui comprend la planification, la préparation des données, le développement ou la configuration, l'évaluation, le déploiement, la surveillance et la mise hors service d'un modèle d'intelligence artificielle.

Quelles sont les sept étapes du cycle de vie d'un modèle d'IA ?

Les sept étapes sont la planification et l'évaluation des risques, la collecte et la préparation des données, le développement ou la configuration du modèle, l'évaluation et la validation, le déploiement et l'intégration, la surveillance et la maintenance, et la mise hors service ou le remplacement.

Pourquoi le cycle de vie des modèles d'IA est-il important ?

Le cycle de vie des modèles d'IA aide les organisations à gérer le développement, la qualité, la sécurité, la gouvernance, les performances et les risques opérationnels des modèles grâce à un processus reproductible.

Qu’est-ce que la gestion du cycle de vie des modèles d’IA ?

La gestion du cycle de vie des modèles d'IA est la pratique coordonnée consistant à suivre et à contrôler les modèles, les données, les versions, les approbations, le déploiement, la surveillance, les modifications et la mise hors service tout au long de leur durée de vie opérationnelle.

Comment la gouvernance de l'IA s'applique-t-elle au cycle de vie des modèles ?

La gouvernance de l'IA établit la propriété, les politiques, la supervision, les évaluations des risques, les contrôles et les preuves tout au long du cycle de vie, de la planification initiale et de la sélection des données jusqu'au déploiement, à la surveillance et à la mise hors service.

Quelle est la différence entre le cycle de vie d'un modèle d'IA et le MLOps ?

Le cycle de vie d'un modèle d'IA décrit les différentes étapes de son évolution. MLOps fournit des pratiques d'ingénierie et des outils d'automatisation pour le développement, les tests, le déploiement, le versionnage et l'exploitation des systèmes d'apprentissage automatique.

Comment l'IA générative modifie-t-elle le cycle de vie des modèles ?

L'IA générative ajoute des considérations telles que la sélection du modèle de base, le réglage fin, les invites, les pipelines RAG, les magasins de vecteurs, les fournisseurs de modèles externes, les agents d'IA et les contrôles sur la récupération des données sensibles et les actions autonomes.

Quels sont les risques de sécurité liés à l'entraînement des modèles d'IA ?

Les risques comprennent l'utilisation non autorisée d'informations sensibles, l'empoisonnement des données, les pipelines non sécurisés, les identifiants exposés, les dépendances non fiables, la faible provenance des données et les contrôles d'accès inadéquats.

Pourquoi la traçabilité des données d'IA est-elle importante ?

La traçabilité des données d'IA permet aux organisations de comprendre l'origine des données de modélisation, leur transformation, leur circulation et les systèmes d'IA qui en dépendent. Elle favorise la transparence, les enquêtes de sécurité, la gouvernance et la conformité.

Quels sont les points à surveiller pour les organisations après le déploiement de l'IA ?

Les organisations doivent surveiller les performances du modèle, les dérives, les modifications des données, l'exposition des informations sensibles, les autorisations, les violations de politique, l'activité des agents, les constats de sécurité et les résultats des mesures correctives.

Que se passe-t-il lorsqu'un modèle d'IA est mis hors service ?

La mise hors service doit inclure la désactivation des terminaux inutilisés, la révocation des identifiants et des autorisations, la révision des flux de travail dépendants, l'application des politiques de conservation et de suppression, et la préservation des preuves d'audit requises.

Comment BigID prend-il en charge la gouvernance du cycle de vie des modèles d'IA ?

BigID aide les organisations à découvrir leurs actifs d'IA et leurs données sensibles, à comprendre leur provenance et leur accès, à soutenir la gouvernance de l'IA et les évaluations des risques, à identifier l'exposition et à coordonner la remédiation dans les environnements d'IA d'entreprise.

Contenu

Guide du RSSI sur l'IA

Télécharger le guide