La plupart des entreprises n'ont pas conçu leurs environnements d'accès pour l'IA. Elles les ont conçus au fil des années, au gré des arrivées d'employés dans les équipes, des changements de rôle, du partage de dossiers, de l'ajout d'applications, de la création de comptes de service, etc.
Les agents d'IA ont introduit un nouveau problème d'identité en entreprise. Ils peuvent s'authentifier via des applications, des comptes de service, des identités machine, des identifiants API, des autorisations OAuth, des rôles cloud ou des délégations…
Le risque associé à un agent d'IA ne se limite pas au modèle lui-même. Les équipes de sécurité doivent comprendre son environnement : les données auxquelles il a accès, les identités…
Deux agents d'IA peuvent utiliser le même modèle, exécuter la même version, recevoir la même invite et même fonctionner avec les mêmes contrôles de sécurité autour du modèle. Pourtant…
Demandez à une équipe de sécurité de cartographier la surface d'attaque d'une application et l'exercice vous semblera familier. Elle identifie les points de terminaison, les API, les identités, les vulnérabilités, les intégrations et les périmètres de sécurité. L'IA change la donne…
La plupart des organisations évaluent la sécurité de l'IA après un incident. Une invite sensible déclenche une alerte. Un employé colle des données confidentielles dans une application d'IA. Un copilote renvoie des informations à quelqu'un d'autre…
L'IA n'a pas besoin de divulguer des données sensibles pour créer un problème de sécurité des données. Parfois, le problème commence bien plus tôt. Un copilote peut consulter des fichiers qu'un employé, techniquement…
Le renseignement sur les menaces a toujours souffert d'un problème de rapidité. Les attaquants agissent vite. Les équipes de sécurité collectent d'énormes volumes d'indicateurs, de vulnérabilités, de données télémétriques, de recherches, d'alertes et d'informations sur les comportements adverses. Les analystes doivent ensuite…
Les agents d'IA créent de la valeur car ils peuvent accéder aux données et les exploiter. Ils peuvent récupérer des dossiers clients, rechercher des documents d'entreprise, interroger des bases de données, appeler des API, envoyer des messages, mettre à jour…
Les agents d'IA ne travaillent plus isolément. L'un effectue des recherches. Un autre récupère les données de l'entreprise. Un autre évalue les informations. Un autre encore interroge une API. Un autre modifie un enregistrement ou déclenche…