As organizações estão cada vez mais implementando agentes de IA, copilotos, assistentes, fluxos de trabalho autônomos e aplicativos baseados em IA em ambientes corporativos.
Muitas equipes de segurança se concentram no que esses sistemas podem fazer.
Poucos entendem como esses sistemas obtiveram acesso em primeiro lugar.
Na maioria dos ambientes, os agentes de IA não recebem permissões diretamente.
Eles herdam as permissões por meio dos sistemas existentes de gerenciamento de identidade, aplicativos e acesso.
Compreender o acesso herdado está se tornando um dos requisitos mais importantes para Segurança de IA, Governança de identidade por IA, e Governança de Acesso à IA.
Como os agentes de IA herdam permissões: principais conclusões
• A maioria dos agentes de IA não recebe permissões diretamente. Eles herdam o acesso por meio de aplicativos, APIs, contas de serviço, identidades de máquina e funções de usuário.
• Permissões herdadas frequentemente criam riscos ocultos. Os sistemas de IA podem obter acesso a muito mais do que sua finalidade comercial original.
• A visibilidade do acesso à IA continua sendo um desafio. Muitas organizações não conseguem explicar claramente por que os sistemas de IA têm acesso a aplicativos, sistemas ou dados específicos.
• O acesso excessivo à IA é frequentemente herdado. Aplicações, contas de serviço e APIs com permissões excessivas podem aumentar o risco para os sistemas de IA.
• Propriedade e responsabilidade importam. As organizações precisam ter visibilidade sobre quem detém as identidades de IA e as permissões que essas identidades herdam.
• Uma governança eficaz da IA exige a compreensão dos caminhos de acesso. As organizações não podem reduzir o risco da IA até que entendam como a IA obteve acesso.
Por que as permissões de IA funcionam de forma diferente
Usuários tradicionais normalmente recebem permissões por meio de processos de identidade estabelecidos.
Os funcionários recebem Acesso baseado em funções.
Os aplicativos recebem permissões com base em requisitos comerciais.
Agentes de IA Introduzir um novo desafio.
Muitos sistemas de IA operam utilizando permissões herdadas de outros sistemas.
O resultado é uma cadeia de acesso herdado que as organizações muitas vezes têm dificuldade em compreender.
Sem visibilidade dessas relações, os sistemas de IA podem obter acesso a dados sensíveis, aplicações críticas para os negócios e fluxos de trabalho privilegiados sem a devida supervisão.
A realidade oculta do acesso à IA
A maioria das implementações de IA depende da infraestrutura existente.
Em vez de criar modelos de acesso totalmente novos, as organizações conectam sistemas de IA a:
- aplicativos SaaS
- Software empresarial
- APIs
- Contas de serviço
- Ambientes em nuvem
- Plataformas de colaboração
- Repositórios de dados
O sistema de IA herda então todo o acesso que esses sistemas já possuem.
Isso cria um dos maiores pontos cegos na governança moderna da IA.
Cinco maneiras pelas quais os agentes de IA herdam permissões
1. Aplicações
Muitos copilotos de IA operam dentro de aplicativos que já possuem amplas permissões.
Exemplos incluem:
- Microsoft 365
- Força de vendas
- Serviço agora
- Espaço de trabalho do Google
- Slack
Se um aplicativo pode acessar dados, os recursos de IA incorporados a esse aplicativo geralmente herdam partes desse acesso.
Risco
As organizações entendem a aplicação, mas falham na avaliação da mesma. identidade de IA operando dentro dele.
2. APIs
As APIs servem cada vez mais como o tecido conectivo dos sistemas de IA.
Os agentes de IA interagem frequentemente com sistemas empresariais por meio de APIs que já possuem permissões para:
- Recuperar registros
- Informações de atualização
- Executar ações
- Acionar fluxos de trabalho
Risco
O agente de IA herda efetivamente todas as permissões que a API pode exercer.
3. Contas de serviço
Muitos fluxos de trabalho baseados em IA operam por meio de contas de serviço.
Essas contas geralmente possuem permissões amplas porque suportam a automação em vários sistemas.
Risco
Uma conta de serviço com permissões excessivas pode conceder, involuntariamente, acessos desnecessários. acesso excessivo a agentes de IA que dependem disso.
Essa é uma das razões pelas quais as contas de serviço continuam sendo uma importante fonte de risco de identidade.
4. Funções de Usuário Existentes
Os copilotos de IA operam frequentemente em nome dos usuários.
Nesses ambientes, o sistema de IA herda as permissões associadas ao usuário que o invoca.
Risco
A IA pode obter acesso a tudo o que o usuário pode acessar, incluindo informações confidenciais que a IA realmente não precisa.
5. Identidades de Máquina
Os sistemas de IA dependem cada vez mais de:
- Certificados
- Fichas
- Segredos
- Identidades de carga de trabalho
- Credenciais da nuvem
Essas identidades de máquina permitem autenticação e conectividade.
Risco
Os sistemas de IA podem herdar permissões por meio de identidades de máquina, algo que as organizações já têm dificuldade em inventariar e controlar.
Saiba mais sobre segurança de identidade da máquina e seu papel crescente em ambientes de IA.
Por que o acesso herdado à IA cria riscos
A maioria das discussões sobre os riscos da IA se concentra nos modelos.
O maior desafio operacional geralmente envolve o acesso.
Quando as organizações não conseguem explicar por que um sistema de IA tem acesso, elas não conseguem governar esse acesso de forma eficaz.
Os riscos comuns incluem:
Permissões excessivas
Os sistemas de IA herdam mais acesso do que o necessário.
Exposição de dados sensíveis
Agentes de IA obtêm acesso a informações regulamentadas, confidenciais ou críticas para os negócios.
Lacunas de propriedade
As organizações não conseguem identificar quem é o responsável pelas decisões de acesso à IA.
Caminhos de acesso ocultos
As permissões têm origem em sistemas que as equipes de segurança podem não associar à IA.
Risco de Conformidade
As organizações têm dificuldade em demonstrar governança e responsabilidade.
A cadeia de permissões da IA
Um dos conceitos mais importantes que as organizações ignoram é a cadeia de permissões da IA.
Um caminho de acesso típico à IA pode ser semelhante a este:
Usuário → Aplicativo → API → Conta de serviço → Repositório de dados
O agente de IA pode operar em algum ponto dessa cadeia.
Compreender a cadeia ajuda as organizações a responder:
- De onde se originou o acesso
- Por que existe acesso?
- Quais permissões são herdadas?
- Quais sistemas criam riscos?
- Que dados sensíveis são expostos?
A governança da IA exige visibilidade em toda a cadeia.
Por que as revisões de acesso tradicionais ignoram o risco da IA?
As avaliações de acesso tradicionais se concentram em:
- Usuários humanos
- Aplicações
- Contas de serviço
A maioria não foi projetada para avaliar identidades baseadas em IA.
Como resultado, as organizações muitas vezes têm dificuldade em responder:
- Que agentes de IA existem?
- Quais permissões pertencem aos sistemas de IA?
- Quais identidades de IA acessam dados sensíveis?
- Quais identidades de IA têm acesso excessivo?
- Quem detém as permissões de IA?
É aqui que a Governança de Identidade por IA e a Governança de Acesso por IA se tornam cruciais.
Como a Governança de Acesso à IA Ajuda
A Governança de Acesso à IA ajuda as organizações a compreender:
- A que a IA pode acessar
- Por que existe acesso?
- Como as permissões foram herdadas
- Quais sistemas de IA representam risco?
- Quais identidades de IA acessam dados sensíveis?
Em vez de se concentrarem apenas nos modelos de IA, as organizações obtêm visibilidade das permissões e dos caminhos de acesso por trás da IA.
Saiba mais sobre Governança de Acesso à IA.
Como o BigID ajuda a governar o acesso herdado à IA
A BigID ajuda as organizações a descobrir identidades de IA, compreender permissões herdadas, identificar acessos excessivos e conectar a atividade de IA à exposição de dados sensíveis.
Com o BigID, as organizações podem:
- Descubra agentes e copilotos de IA
- Compreender as permissões de IA herdadas
- Revelar caminhos de acesso da IA
- Identificar o acesso excessivo à IA
- Conecte identidades de IA a dados sensíveis.
- Priorizar o risco de acesso à IA
- Fortalecer os programas de Governança de Identidade de IA
A BigID conecta os pontos entre identidades de IA, permissões, atividades e dados sensíveis para que as organizações possam reduzir a exposição a riscos impulsionados por IA antes que eles se tornem um problema.
Entenda o que a IA pode acessar e por quê.
Os sistemas de IA raramente recebem permissões diretamente. Eles herdam o acesso por meio de aplicativos, APIs, contas de serviço, identidades de máquina e funções de usuário. A BigID ajuda as organizações a revelar os caminhos de acesso da IA, identificar permissões excessivas e reduzir a exposição a riscos gerados por IA.
Perguntas frequentes sobre permissões de IA
Como os agentes de IA herdam permissões?
Os agentes de IA geralmente herdam permissões por meio de aplicativos, APIs, contas de serviço, identidades de máquina e funções de usuário.
Por que o acesso herdado à IA é arriscado?
O acesso herdado pode conceder aos sistemas de IA mais permissões do que o necessário, aumentando a exposição a dados sensíveis e sistemas críticos para os negócios.
O que é acesso excessivo à IA?
O acesso excessivo à IA ocorre quando os sistemas de IA possuem permissões além do necessário para desempenhar sua função pretendida.
Como as organizações podem identificar permissões de IA herdadas?
As organizações precisam de visibilidade sobre as identidades de IA, caminhos de acesso, permissões, propriedade e exposição de dados sensíveis.
O que é Governança de Acesso à IA?
A Governança de Acesso à IA ajuda as organizações a compreender, governar e reduzir os riscos associados às permissões e aos caminhos de acesso à IA.
Qual a diferença entre Governança de Identidade por IA e Governança de Acesso por IA?
A Governança de Identidades de IA concentra-se na descoberta e governança de identidades de IA. A Governança de Acesso de IA concentra-se no que essas identidades podem acessar e como as permissões criam riscos.
Autor
