As organizações estão implementando rapidamente agentes de IA, copilotos, assistentes, fluxos de trabalho autônomos e aplicativos baseados em IA.
A maioria sabe quais ferramentas de IA adquiriu.
Muito menos pessoas sabem quais identidades de IA essas ferramentas criaram.
Com a aceleração da adoção da IA, as equipes de segurança enfrentam um desafio crescente: elas não podem governar sistemas de IA que não conseguem identificar.
A criação de um inventário de identidades baseado em IA está se tornando um dos fundamentos mais importantes para... Governança de identidade por IA, Segurança da IA e gestão de riscos da IA.
Construindo um Inventário de Identidades com IA: Principais Conclusões
• A governança da IA começa com o inventário. As organizações não podem governar sistemas de IA que não conseguem identificar, rastrear e monitorar.
• As identidades de IA estão se tornando uma nova categoria de identidade empresarial. Agentes de IA, copilotos, fluxos de trabalho autônomos e aplicativos habilitados por IA operam cada vez mais em ambientes corporativos.
• A maior parte dos riscos relacionados à IA tem origem no acesso herdado. Os sistemas de IA geralmente obtêm permissões por meio de aplicativos, APIs, contas de serviço, identidades de máquina e funções de usuário.
• Um inventário baseado em IA deve ir além do rastreamento de ativos. Propriedade, permissões, atividade e exposição de dados sensíveis fornecem o contexto necessário para a governança.
• A proliferação descontrolada de identidades geradas por IA está se acelerando. A Gartner prevê que 401.000.000 aplicações empresariais incluirão agentes de IA específicos para tarefas até 2026, aumentando drasticamente o número de identidades baseadas em IA que as organizações precisam gerenciar.
• Os inventários de IA mais eficazes conectam identidades a dados. Compreender a que a IA pode aceder ajuda as equipas de segurança a priorizar os riscos e as medidas de remediação.
Por que os inventários de IA estão se tornando repentinamente cruciais
Durante anos, as organizações mantiveram inventários de:
- Aplicações
- Dispositivos
- Ativos em nuvem
- Ativos de dados
- Identidades humanas
- Identidades de máquinas
A IA introduz um novo desafio de gestão de estoques.
Os sistemas de IA atuam cada vez mais em nome dos usuários, interagem com aplicativos, acessam informações confidenciais e executam fluxos de trabalho em ambientes corporativos.
Com o crescimento da adoção da IA, as organizações precisam de visibilidade sobre:
- Quais sistemas de IA existem?
- Quais identidades de IA existem?
- Quem são os donos deles?
- Que permissões eles herdaram
- A que sistemas eles têm acesso.
- Que dados eles podem acessar?
- Que ações eles podem realizar
Sem essa visibilidade, a governança torna-se reativa em vez de proativa.
O novo problema: a proliferação de identidades de IA
Muitas organizações já enfrentam dificuldades com a dispersão de identidades.
A IA introduz mais uma camada.
Segundo a Gartner, 40% Prevê-se que, até 2026, as aplicações empresariais incluirão agentes de IA específicos para tarefas, um aumento significativo em relação aos menos de 51% atuais.
Ao mesmo tempo, a Gartner prevê que 33% Até 2028, as aplicações de software empresarial conterão IA agente.
Cada implementação de IA introduz novas funcionalidades:
- Agentes
- Assistentes
- Copilotos
- Fluxos de trabalho autônomos
- aplicativos habilitados por IA
- Integrações de serviços
Cada uma delas funciona potencialmente como uma identidade.
Ao contrário dos ativos de software tradicionais, esses sistemas geralmente herdam permissões, acessam dados confidenciais e executam ações em ambientes corporativos.
O resultado é uma população em rápida expansão de identidades impulsionadas por IA que muitas organizações não conseguem inventariar completamente hoje.
O que é um inventário de identidades baseado em IA?
Um inventário de identidades de IA serve como base operacional para a Governança de Identidades de IA, fornecendo um registro continuamente atualizado de identidades com tecnologia de IA e seus riscos associados.
Ao contrário de um inventário de ativos de IA tradicional, um inventário de identidades de IA concentra-se em como os sistemas de IA interagem com os recursos da empresa.
Um inventário completo inclui:
Identidade de IA
O próprio sistema de IA.
Exemplos incluem:
- Agentes de IA
- Copilotos
- Fluxos de trabalho autônomos
- aplicativos com inteligência artificial
Saiba mais sobre Identidades de IA e como elas diferem das identidades humanas e das identidades das máquinas.
Propriedade
Quem é o responsável pelo sistema de IA?
A propriedade ajuda a estabelecer a responsabilidade e a governança.
Permissões
Que tipo de acesso a identidade de IA possui?
Caminhos de acesso
Como o sistema de IA obteve acesso?
Atividade
Que ações a identidade de IA executa?
Exposição de dados sensíveis
A que informações regulamentadas, confidenciais ou críticas para os negócios a IA pode ter acesso?
A lacuna no inventário de IA que a maioria das organizações ignora.
Muitas organizações se concentram na descoberta por IA.
A descoberta é importante.
Mas a descoberta por si só não cria governança.
O verdadeiro desafio é o contexto.
Um inventário que simplesmente lista ferramentas de IA não consegue responder:
- Quais sistemas de IA representam riscos?
- Quais identidades de IA possuem permissões excessivas?
- Quais agentes de IA podem acessar dados do cliente?
- Quais identidades de IA não possuem proprietário?
- Quais sistemas de IA precisam de correção?
Um inventário eficaz de identidades de IA conecta identidades de IA a permissões, propriedade, atividade e exposição de dados sensíveis.
Os cinco componentes principais de um inventário de identidade com IA
1. Descoberta de IA
Identificar sistemas com inteligência artificial em operação em toda a organização.
2. Mapeamento de Identidade
Conectar sistemas de IA a identidades digitais.
3. Atribuição de Propriedade
Estabelecer responsabilidade para cada identidade de IA.
4. Análise de Permissões
Compreenda as permissões herdadas e os direitos de acesso.
5. Contexto dos dados
Determine a quais dados sensíveis cada identidade de IA pode ter acesso através de Governança de Acesso à IA e análise de risco baseada em dados.
Por que os inventários de identidade por IA são diferentes dos inventários de ativos?
O que existe?
Resposta dos inventários de identidade por IA:
O que existe, a que pode ter acesso e que riscos acarreta?
Essa distinção torna-se cada vez mais importante à medida que os sistemas de IA ganham autonomia.
Uma pesquisa recente da Gartner alerta que as organizações falta de governança eficaz de IA podem ser forçados a reverter as implantações de agentes de IA devido a falhas de governança.
A visibilidade torna-se um pré-requisito para a governança.
Identidades de IA, identidades de máquina e identidades humanas
Um desafio emergente é a sobreposição de identidades.
As identidades de IA geralmente dependem de:
- Identidades humanas
- Contas de serviço
- APIs
- Certificados
- Identidades de máquinas
Pesquisas do setor mostram As identidades não humanas já superam em número as identidades humanas. por amplas margens em muitas organizações. Uma pesquisa recente da Cloud Security Alliance constatou que proporção mediana de 45 identidades de máquina para cada identidade humana.
A adoção da IA introduz mais uma camada de identidade.
Com a crescente popularidade dos agentes de IA, as organizações precisam cada vez mais de modelos de governança que conectem as identidades humanas, de máquinas e de IA em uma única estrutura de risco.
Construindo um Inventário de Identidades com IA: Uma Estrutura Prática
Etapa 1: Descubra os Sistemas de IA
Identificar agentes de IA, copilotos, assistentes e aplicações habilitadas por IA.
Etapa 2: Inventariar identidades de IA
Criar um inventário centralizado.
Etapa 3: Estabelecer a propriedade
Atribua responsáveis.
Etapa 4: Permissões do mapa
Compreenda o acesso herdado.
Etapa 5: Conecte os dados confidenciais
Identificar a exposição de dados.
Etapa 6: Priorizar o risco
Foque nas identidades de IA que geram maior visibilidade.
Etapa 7: Monitoramento contínuo
Os ambientes de IA mudam constantemente.
Os estoques devem evoluir com eles.
Como a BigID ajuda a construir um inventário de identidades com IA
As organizações não podem governar identidades de IA, acesso à IA ou riscos de IA até que primeiro estabeleçam visibilidade das identidades baseadas em IA que operam em seu ambiente.
A BigID ajuda as organizações a descobrir, inventariar e governar identidades de IA em ambientes de nuvem, SaaS, IA e híbridos.
Com o BigID, as organizações podem:
- Descubra agentes e copilotos de IA
- Crie um inventário centralizado de identidades de IA.
- Compreender permissões herdadas
- Estabelecer a propriedade
- Conecte identidades de IA a dados sensíveis.
- Identificar o acesso excessivo à IA
- Priorizar o risco de identidade da IA
- Apoiar programas de Governança de Identidade com IA
A BigID conecta os pontos entre identidades de IA, permissões, atividades e dados sensíveis para ajudar as organizações a governar sistemas de IA com confiança.
Perguntas frequentes sobre o Inventário de Identidade por IA
O que é um inventário de identidades com IA?
Um inventário de identidades de IA é um registro centralizado de identidades com tecnologia de IA, sua propriedade, permissões, atividades e exposição de dados sensíveis.
Por que as organizações precisam de um inventário de identidades com IA?
As organizações precisam ter visibilidade das identidades de IA antes de poderem governar eficazmente os requisitos de risco, acesso e conformidade relacionados à IA.
O que um inventário de identidades de IA deve incluir?
No mínimo, os inventários de IA devem incluir identidades de IA, propriedade, permissões, caminhos de acesso, atividade e exposição de dados sensíveis.
Qual a diferença entre um inventário de identidades com IA e um inventário de ativos com IA?
Os inventários de ativos focam em ferramentas e sistemas de IA. Os inventários de identidade de IA focam nas identidades, permissões e riscos associados a esses sistemas.
Como a Governança de Identidade por IA auxilia na gestão de inventário?
A Governança de Identidades de IA ajuda as organizações a descobrir identidades de IA, estabelecer a propriedade, analisar permissões e monitorar continuamente os riscos relacionados à IA.
Com que frequência as organizações devem atualizar um inventário de identidades de IA?
Os inventários de identidades de IA devem ser atualizados continuamente à medida que as organizações implementam novos agentes de IA, copilotos, fluxos de trabalho autônomos e aplicativos habilitados para IA. O monitoramento contínuo ajuda a garantir que a propriedade, as permissões e a exposição de dados confidenciais permaneçam precisas ao longo do tempo.
Aumente a visibilidade de cada identidade de IA.
A governança de IA começa com a compreensão de quais identidades de IA existem, quais permissões elas herdam e a quais dados sensíveis elas podem acessar. A BigID ajuda as organizações a descobrir, inventariar e governar identidades de IA em toda a empresa.
Autor
