L'IA se déploie plus rapidement que la plupart des équipes de sécurité ne peuvent la contrôler. Qu'il s'agisse de modèles d'IA parallèles fonctionnant sans autorisation ou de données sensibles transférées vers des outils tiers sans surveillance, le résultat est le même : un risque réglementaire accru et des angles morts opérationnels. La plupart des organisations ne disposent pas d'un système clair de supervision de l'IA, ce qui laisse les modèles et les données qui les alimentent hors du champ de la conformité et du contrôle.
Cette session explique comment structurer le chaos. Du catalogage de chaque modèle d'IA et de ses données d'entrée à l'application des politiques d'utilisation et à la mise en évidence des indicateurs de responsabilité, les RSSI peuvent – et doivent – prendre l'initiative en matière de gouvernance de l'IA en entreprise.
Points clés à retenir :
- Modèles et données du catalogue : Développer une visibilité sur tous les modèles d'IA utilisés, y compris les outils tiers et les outils parallèles, et cartographier leurs sources de données.
- Définir des politiques d'utilisation de l'IA claires : Définir ce qui est autorisé, ce qui ne l'est pas et ce qui doit être revu – en assurant la cohérence entre les aspects liés à la sécurité, aux questions juridiques, à la conformité et à l'entreprise.
- Se conformer aux exigences de gouvernance : Assurez-vous que vos programmes d'IA respectent les exigences réglementaires, éthiques et d'entreprise avant que des cadres externes ne l'imposent.
- Surveillance et signalement : Mettez en place un système de supervision grâce à une surveillance active, une évaluation des risques et des rapports prêts pour l'audit sur l'ensemble de votre empreinte IA.
- Anticipez la réglementation : Alors que les cadres réglementaires mondiaux sont encore en train de se mettre en place, la gouvernance interne est votre meilleure défense – et votre meilleure attaque – pour une adoption sûre et évolutive de l'IA.
Intervenants :
- Nimrod Vax, directeur des produits et cofondateur de BigID
- Christopher Steffen, vice-président de la recherche – sécurité de l'information, Enterprise Management Associates (EMA)