Os funcionários não precisam transferir dados confidenciais para uma ferramenta de IA não aprovada para criar riscos relacionados à IA.
Às vezes, eles só precisam conectar.
Um funcionário autoriza um assistente de IA a resumir arquivos em um serviço de armazenamento em nuvem. Um desenvolvedor conecta uma ferramenta de codificação de IA a um repositório de código-fonte. Uma equipe de negócios adiciona um agente de IA a um aplicativo SaaS. Um fluxo de trabalho autônomo utiliza uma conta de serviço existente para recuperar informações de um banco de dados.
Em cada caso, a ferramenta de IA pode obter acesso aos dados por meio de permissões já existentes.
Isso cria um problema de segurança crescente: Acesso à IA oculta.
O acesso não autorizado à IA ocorre quando ferramentas, agentes, aplicativos ou integrações de IA obtêm acesso a dados corporativos fora dos processos de segurança e governança estabelecidos, inclusive por meio de permissões herdadas ou delegadas.
O desafio não é simplesmente identificar quais ferramentas de IA os funcionários utilizam. As organizações também precisam entender A que esses sistemas de IA têm acesso, como obtiveram esse acesso, que dados sensíveis estão armazenados por trás deles e se esse acesso gera exposição desnecessária.
Acesso à IA Sombra: Principais Conclusões
• A IA paralela também é um problema de acesso. A descoberta de uma ferramenta de IA não autorizada não informa às equipes de segurança quais dados corporativos ela pode acessar.
• A IA pode herdar permissões existentes. Usuários, aplicativos, concessões OAuth, APIs, contas de serviço, identidades de máquina e outras integrações podem ampliar o acesso à IA.
• Uma conexão não revela o risco total. As equipes precisam saber se o acesso da IA atinge informações públicas ou dados confidenciais de clientes, funcionários, financeiros, código-fonte ou outros dados críticos.
• Os caminhos de acesso podem se estender por vários sistemas. Uma ferramenta de IA pode acessar dados indiretamente por meio de um aplicativo, API ou identidade de máquina.
• A IA paralela requer supervisão contínua. Novas ferramentas, integrações, identidades, permissões e dados podem alterar a exposição após uma análise inicial.
• A BigID conecta a descoberta por IA com o contexto de acesso aos dados. As equipes podem identificar sistemas de IA e compreender seus caminhos de acesso, permissões, propriedade, atividade e exposição a dados sensíveis para priorizar os riscos.
O que é o Shadow AI Access?
O acesso à IA paralela (Shadow AI) é o acesso a dados corporativos criado por ferramentas, agentes, aplicativos ou integrações de IA que operam fora dos processos de IA aprovados ou totalmente controlados.
Está intimamente relacionado com IA sombra, Mas os dois conceitos respondem a questões de segurança diferentes.
A descoberta de IA paralela questiona: Que tipo de IA as pessoas estão usando?
O acesso à IA paralela solicita: O que essa IA consegue alcançar?
Uma organização pode identificar uma aplicação de IA e ainda assim saber muito pouco sobre o risco de dados associado a ela.
As equipes de segurança também precisam determinar:
- Quais usuários e identidades se conectam ao sistema de IA?
- Que permissões recebeu?
- Essas permissões foram concedidas diretamente ou herdadas?
- Quais aplicativos, APIs, repositórios e bancos de dados ele pode acessar?
- Que dados sensíveis existem nesses recursos?
- Que ações a IA pode executar?
- Quem é o responsável pela integração?
- O acesso corresponde a uma finalidade comercial legítima?
Sem esse contexto, um inventário de ferramentas de IA pode mostrar onde a IA existe, mas não mostra onde ela gera exposição de dados significativa.
Veja o que a IA pode acessar
Veja como a BigID conecta sistemas de IA a identidades, permissões, caminhos de acesso e dados sensíveis para que as equipes possam entender onde o acesso à IA cria riscos.
Como a Shadow AI obtém acesso a dados corporativos
A inteligência artificial não precisa de uma conta de banco de dados dedicada para acessar informações corporativas.
O acesso pode vir de identidades e integrações que as organizações já utilizam.
1. Acesso delegado pelo usuário
Considere um funcionário que conecta um assistente de produtividade com IA a uma conta de armazenamento em nuvem.
O funcionário já tem acesso a:
- Documentos da equipe
- Apresentações para clientes
- Previsões financeiras internas
- Contratos
- Documentos de estratégia
O funcionário concede permissão ao aplicativo de IA para ler arquivos, permitindo que ele pesquise ou resuma documentos.
A organização não concedeu acesso direto à ferramenta de IA. O usuário estendeu o acesso que já possuía.
Se as permissões desse usuário já forem excessivas, a integração de IA poderá herdar as consequências desse acesso excessivo.
2. Permissões de Aplicativos e OAuth
Aplicações modernas de IA frequentemente se integram a plataformas SaaS corporativas por meio de OAuth ou outros métodos de autorização delegada.
Uma integração útil pode solicitar permissão para ler arquivos, mensagens, calendários, contatos, repositórios ou registros.
A empresa vê nisso um fator que aumenta a produtividade.
A segurança precisa entender a relação de acesso subjacente.
Uma permissão como "ler arquivos" torna-se materialmente diferente quando esses arquivos contêm registros de clientes, informações de funcionários, contratos, credenciais, propriedade intelectual ou informações regulamentadas.
3. APIs
Agentes de IA frequentemente usam APIs para recuperar informações ou executar ações.
Por exemplo, um agente de suporte pode chamar uma API que recupera registros de clientes de um CRM.
Se a API permitir que o agente recupere todos os registros de clientes quando o fluxo de trabalho requer apenas informações sobre o cliente que está solicitando suporte no momento, a IA poderá ter um acesso mais amplo do que o necessário para sua finalidade.
A interface de IA pode parecer de escopo limitado, enquanto a API subjacente oferece acesso muito mais amplo.
4. Contas de serviço e identidades de máquina
Um fluxo de trabalho de IA pode autenticar-se através de uma conta de serviço em vez de um usuário individual.
Essa conta de serviço pode ser anterior ao projeto de IA em anos.
Ao longo do tempo, pode ter acumulado acesso a bancos de dados, sistemas de armazenamento, aplicativos e recursos em nuvem.
Conectar um agente de IA a essa identidade pode, de repente, tornar essas permissões existentes relevantes para a segurança da IA.
É por isso segurança de identidade da máquina e a governança do acesso à IA se intercruzam cada vez mais.
Como o acesso à IA paralela se espalha
A dificuldade reside no fato de que o acesso da IA pode percorrer diversas camadas antes de chegar aos dados.
Um exemplo prático: o assistente de reuniões com IA.
Imagine uma equipe de vendas que adota um assistente de reuniões com inteligência artificial.
À primeira vista, a decisão de segurança parece simples. A ferramenta grava as reuniões e gera resumos.
Mas a equipe o conecta a vários outros sistemas:
- Calendários corporativos
- Armazenamento em nuvem
- O CRM
- Plataformas de colaboração
Agora, o potencial de utilização de dados da ferramenta vai além das transcrições de reuniões.
Dependendo das permissões, poderá ter acesso a nomes de clientes, informações de contato, discussões sobre contratos, preços, previsões de vendas, estratégias internas, problemas de suporte ou outras informações confidenciais.
O risco não reside nas palavras "assistente de reunião com IA".“
O risco surge da combinação de acesso, permissões, dados sensíveis e finalidade comercial.
Por isso, bloquear ou aprovar uma aplicação de IA com base apenas no seu nome ou categoria não resolve o problema subjacente.
Outro exemplo: o assistente de IA para desenvolvedores.
Um desenvolvedor conecta um assistente de codificação com IA a um repositório de código-fonte.
O objetivo é legítimo: ajudar o desenvolvedor a entender o código, solucionar problemas e trabalhar mais rápido.
Mas o repositório contém mais do que apenas lógica de aplicação.
Também pode conter:
- Chaves de API
- Segredos
- Cadeias de conexão de banco de dados
- URLs internas
- Algoritmos proprietários
- Dados de configuração do cliente
- Detalhes da infraestrutura
A questão importante já não é simplesmente se a empresa permite ou não o assistente de codificação por IA.
A organização precisa saber Quais repositórios ele pode acessar e quais informações sensíveis esses repositórios contêm.
Isso transforma a IA paralela, de um problema de gerenciamento de aplicativos, em um problema de segurança de dados.
Descoberta de IA paralela vs. Governança de acesso à IA paralela
As organizações precisam de ambas as capacidades, mas elas resolvem partes diferentes do problema.
Por que bloquear a IA sombra não é suficiente
Organizações podem proibir um aplicativo de IA e ainda assim ter um problema de acesso à IA.
Novas ferramentas surgem. Os funcionários adotam novos serviços. Os fornecedores de SaaS existentes adicionam recursos de IA. Os aplicativos aprovados introduzem copilotos. As equipes de desenvolvimento criam agentes internamente.
Um modelo binário de aprovado versus não aprovado também trata duas situações muito diferentes como se apresentassem o mesmo risco.
Considerar:
- Uma ferramenta de IA não aprovada que não possui nenhuma conexão com dados corporativos.
- Um agente de IA aprovado com amplo acesso a informações financeiras e de clientes.
A primeira questão levanta uma preocupação de governança.
A segunda opção pode gerar uma exposição de dados muito maior.
Portanto, as equipes de segurança precisam avaliar a IA com base no que ela realmente pode alcançar e fazer, e não simplesmente se alguém a colocou em uma lista de aplicativos aprovados.
Como reduzir o risco de acesso à IA paralela
Um programa prático que conecta descoberta de IA, identidade, acesso, dados, atividade e remediação.
1. Encontre IA em toda a empresa
Mantenha um inventário de aplicações, agentes, copilotos, assistentes, modelos e integrações de IA.
Inclui IA sancionada e não sancionada.
Para cada sistema, identifique sua finalidade comercial e o responsável, sempre que possível.
2. Identificar as identidades por trás da IA
Determine como cada sistema de IA se autentica e obtém acesso.
Procurar:
- Usuários
- Grupos
- OAuth concede
- Aplicações
- APIs
- Contas de serviço
- Identidades de máquinas
- Funções na nuvem
- Permissões delegadas
Um inventário de IA sem contexto de identidade pode não mostrar como a ferramenta realmente acessa os recursos da empresa.
3. Mapear permissões de IA e caminhos de acesso
Determine o que o sistema de IA pode fazer e de onde vieram essas permissões.
Não se limite a obter permissões diretas.
Rastrear acessos herdados e indiretos por meio de aplicativos, APIs, contas de serviço, grupos, funções e outras identidades.
Guia da BigID para Permissões de IA Explica como essas relações podem expandir o acesso efetivo de um sistema de IA.
4. Conecte o acesso da IA a dados sensíveis.
É neste ponto que um mapa de acesso se torna útil para a tomada de decisões baseadas em riscos.
Determinar se a IA consegue alcançar:
- Informações pessoais
- Registros de clientes
- Informações sobre funcionários
- Dados financeiros
- Informações sobre saúde
- Credenciais e segredos
- Código-fonte
- Propriedade intelectual
- Contratos
- Outras informações regulamentadas ou essenciais para os negócios
Descoberta e classificação de dados Fornece às equipes de segurança o contexto necessário para entender o que está por trás de uma permissão de IA.
5. Compare o acesso com o objetivo comercial.
Questione se a IA realmente precisa do acesso que possui.
Um assistente de reuniões pode precisar de acesso ao calendário. Provavelmente não precisa de acesso irrestrito a todos os arquivos que um executivo pode acessar.
Um assistente de programação pode precisar de acesso a um repositório específico. Ele pode não precisar de todos os repositórios disponíveis para o desenvolvedor que o conectou.
Um agente de suporte ao cliente pode precisar recuperar o registro de um cliente individual. Pode não ser necessário conceder permissões para exportação em massa.
O objetivo fornece a base para privilégio mínimo.
6. Priorize o acesso à IA que cria riscos reais.
Uma lista de todas as permissões de IA pode rapidamente se tornar mais um problema de segurança.
Priorize as descobertas usando o contexto, como por exemplo:
- Sensibilidade dos dados
- Gravidade da permissão
- Caminho de acesso
- Atividade
- Propriedade
- Exposição
- Objetivo comercial
- Impacto potencial
Isso ajuda as equipes a distinguir uma permissão de leitura não utilizada para conteúdo de baixo risco de uma integração de IA ativa que pode exportar registros confidenciais de clientes.
7. Reduza o acesso excessivo e monitore as mudanças.
O acesso à IA não permanece estático.
Os funcionários conectam novos aplicativos. Os fornecedores introduzem novos recursos de IA. As permissões mudam. Os dados são transferidos. Os agentes ganham ferramentas. As contas de serviço acumulam direitos.
As equipes devem identificar e abordar continuamente:
- Permissões de IA desnecessárias
- Acesso excessivo a dados sensíveis
- Integrações de IA obsoletas
- Agentes órfãos
- Propriedade desconhecida
- Novos caminhos de acesso
- Alterações na exposição de dados sensíveis
O monitoramento contínuo transforma a governança da IA paralela de um inventário periódico em um processo contínuo de gerenciamento de riscos.
Reduzir o acesso excessivo à IA
Identifique onde o acesso à IA excede as necessidades da empresa, vincule as permissões aos dados sensíveis e concentre a correção na exposição que é mais importante.
O que os tomadores de decisão devem perguntar sobre IA paralela?
Os executivos não precisam de uma lista de todos os escopos OAuth ou direitos de API.
Eles precisam ter certeza de que as equipes conseguem conectar a adoção de IA ao risco de negócios.
Verificação de prontidão para IA Sombra
Sua equipe consegue responder a essas perguntas hoje?
✓ Quais aplicações e agentes de IA operam em toda a organização?
✓ Quais deles podem acessar os sistemas ou dados da empresa?
✓ Quais identidades e credenciais fornecem esse acesso?
✓ Que dados sensíveis cada sistema de IA consegue acessar?
✓ A IA consegue acessar dados indiretamente por meio de aplicativos ou APIs?
✓ Quais sistemas de IA têm acesso excessivo?
✓ Quem é o responsável por cada integração de IA?
✓ O acesso corresponde à finalidade pretendida do sistema de IA?
✓ Qual acesso à IA gera a maior visibilidade para os negócios?
✓ Podemos detectar quando o acesso da IA muda?
A IA paralela está se tornando um problema de acesso a dados.
A adoção da IA muda rapidamente porque as organizações já não introduzem a IA através de um modelo de implementação centralizado.
A IA chega por meio de ferramentas independentes, aplicativos SaaS existentes, copilotos, APIs, plataformas de desenvolvimento, recursos integrados e agentes autônomos.
Isso torna a descoberta de aplicativos necessária, mas insuficiente.
As organizações precisam conectar três questões:
Que tipo de IA existe?
A que ele pode ter acesso?
Que dados esse acesso expõe?
Essa conexão oferece às equipes de segurança e governança uma maneira muito mais clara de distinguir a adoção da IA dos riscos associados à IA.
Como a BigID ajuda a governar o acesso à IA paralela
A BigID conecta a descoberta por IA com os dados e o contexto de acesso necessários para entender a exposição.
Em vez de tratar um aplicativo de IA como um ativo isolado, o BigID ajuda as equipes a entender as relações entre sistemas de IA, identidades, permissões, aplicativos, APIs, atividades, propriedade e dados corporativos confidenciais.
As organizações podem usar o BigID para:
- Descubra a IA: Identificar sistemas, aplicações, agentes, copilotos e outras utilizações de IA em toda a empresa.
- Entenda o acesso à IA: Mapear as identidades, permissões, aplicativos, APIs, contas de serviço e identidades de máquinas envolvidas no acesso à IA.
- Conecte o acesso a dados sensíveis: Identifique as informações regulamentadas, confidenciais, proprietárias e críticas para os negócios que a IA pode acessar.
- Identificar acesso excessivo: Identificar o acesso à IA que exceda as necessidades legítimas da empresa ou que crie exposição desnecessária.
- Adicione contexto de propriedade e atividade: Entenda quem detém o acesso à IA e se as permissões permanecem relevantes e ativas.
- Priorize o risco: Direcione as equipes de segurança para o acesso da IA que expõe os dados mais sensíveis ou críticos.
- Reduzir a exposição: Acesso sob medida, atribuir remediação, Aplicar políticas e monitorar mudanças ao longo do tempo.
Isso conecta a governança da IA paralela com Governança de Acesso à IA e segurança de dados.
Identificar a IA oculta indica onde procurar. Compreender o seu acesso indica onde agir.
Veja a Governança de IA em Ação
Descubra como a BigID ajuda as organizações a encontrar os dados que alimentam a IA, identificar riscos e aplicar controles de governança em todo o ciclo de vida da IA.
Perguntas frequentes sobre o acesso ao Shadow AI
O que é acesso à IA paralela?
O acesso não autorizado à IA ocorre quando ferramentas, agentes, aplicativos ou integrações de IA obtêm acesso a sistemas ou dados corporativos fora dos processos de IA aprovados ou totalmente controlados, inclusive por meio de permissões herdadas e delegadas.
Como a IA paralela pode acessar dados sensíveis?
A IA paralela pode acessar dados sensíveis por meio de usuários, aplicativos, permissões OAuth, APIs, contas de serviço, identidades de máquinas, funções na nuvem, grupos e outras integrações. A ferramenta de IA pode herdar acessos já existentes em vez de receber acesso direto aos dados.
Qual a diferença entre IA paralela e acesso à IA paralela?
A IA paralela (Shadow AI) descreve a tecnologia de IA usada fora dos processos de aprovação ou governança organizacional estabelecidos. O acesso à IA paralela concentra-se nos sistemas corporativos, permissões, identidades e dados confidenciais que esses sistemas de IA podem acessar.
Por que as permissões herdadas representam um risco para a IA?
Permissões herdadas podem conceder a um sistema de IA acesso além da sua finalidade original. Se o usuário, aplicativo, API ou conta de serviço por trás da IA já tiver acesso excessivo, a conexão com outra IA pode ampliar ainda mais essa exposição.
Será que a IA aprovada pode gerar acesso excessivo?
Sim. A aprovação de uma aplicação de IA não garante que todas as permissões ou conexões de dados sejam apropriadas. Uma IA aprovada ainda pode receber permissões excessivas ou obter acesso a dados sensíveis que sua finalidade comercial não exige.
Bloquear a IA paralela é suficiente?
Não. Bloquear ferramentas não autorizadas conhecidas pode reduzir alguns riscos, mas as organizações também precisam controlar o acesso à IA aprovada, recursos de IA incorporados, agentes desenvolvidos internamente, APIs e outras integrações de IA.
Como o princípio do menor privilégio se aplica à IA paralela?
O princípio do menor privilégio limita os sistemas de IA às permissões, aplicações, ferramentas e dados necessários para a sua finalidade. As organizações precisam de contexto de identidade e dados para determinar quando o acesso à IA excede essa finalidade.
Como o BigID ajuda no acesso à IA paralela?
A BigID conecta sistemas de IA com identidades, permissões, caminhos de acesso, propriedade, atividade e dados sensíveis para ajudar as equipes a identificar acesso excessivo à IA, priorizar a exposição, reduzir permissões desnecessárias e monitorar continuamente as mudanças.
Autor
