Pular para o conteúdo

Regras do Agente de IA Estão chegando, e começam com Acesso

Até agora, a maior parte da regulamentação da IA tem se concentrado em modelos: como são treinados, o que os desenvolvedores devem divulgar e quais usos são proibidos. Esta semana, dois governos se voltaram para algo mais prático: o que um agente de IA pode acessar depois de estar em execução dentro de uma empresa ou em um dispositivo.

No Reino Unido, foi adicionada uma cláusula ao projeto de lei de segurança cibernética e resiliência. permitiria que os ministros regulamentassem a forma como a IA ativa é implementada. Na China, o Ministério da Indústria publicou um Aviso sobre agentes de IA pré-instalados em celulares, tablets e dispositivos vestíveis. Os dois documentos diferem em escopo e estilo, mas apontam para a mesma coisa.

O ESSENCIAL

Regulação de Agentes de IA: Principais Conclusões

  • A regulamentação da IA está se voltando para o acesso dos agentes.
    Os novos desenvolvimentos no Reino Unido e na China focam-se no que os agentes de IA podem aceder, como operam e quem é responsável pelas suas ações.
  • O Reino Unido está considerando uma supervisão mais rigorosa.
    As medidas propostas incluem monitoramento de agentes, notificação de incidentes, preservação de evidências e revisões pós-incidente.
  • A China está abordando a questão das permissões de agentes em nível de dispositivo.
    O ministério definiu as expectativas em relação à identidade do agente, consentimento do aplicativo, permissões e segurança em dispositivos de consumo compatíveis.
  • Nenhum dos dois desenvolvimentos cria obrigações imediatas.
    As medidas do Reino Unido exigem etapas legislativas adicionais, enquanto o comunicado da China não especifica uma data de entrada em vigor.
  • Os inventários de agentes são um ponto de partida prático.
    As organizações devem identificar seus agentes de IA, as identidades sob as quais operam e as informações sensíveis às quais podem ter acesso.
  • O contexto dos dados torna o acesso à IA governável.
    A BigID ajuda as organizações a conectar dados sensíveis com identidades, permissões e níveis de exposição para dar suporte à governança de acesso à IA.

Agentes transformam a política de IA em um problema de acesso.

Um agente não possui acesso próprio. Ele age com as permissões de quem ou o que o iniciou, portanto, uma regra sobre agentes é, na prática, uma regra sobre acesso: a quais dados um agente pode acessar, o que ele fez com esses dados e se alguém pode comprovar isso posteriormente. As equipes de segurança e privacidade serão as responsáveis por essa tarefa, e uma equipe que nunca listou seus agentes não poderá responder rapidamente.

O Reino Unido quer um registro de quando um agente perde o controle.

A cláusula foi introduzida na terceira leitura do projeto de lei na Câmara dos Lordes. Ela permitiria ao Secretário de Estado alterar os Regulamentos do NIS e o governo. ficha informativa Afirma que pretende consultar sobre quatro medidas: requisitos de segurança, como monitoramento das ações dos agentes e avaliação do risco dos agentes, notificação a outras organizações quando um agente for afetado, preservação de evidências de como um agente pode ter causado um incidente e revisões pós-incidente lideradas por ministros.

O objetivo são incidentes em que os operadores são “incapazes de monitorar ou controlar adequadamente os agentes de IA”. O Register relata que o escopo provável inclui operadores de serviços essenciais, provedores de serviços gerenciados e provedores de nuvem, enquanto a ficha informativa afirma que o escopo detalhado ainda está sendo definido.

A China quer que os agentes sejam identificados e tenham permissão para acessar o dispositivo.

O aviso do ministério, datado de 24 de outubro e publicado em 6 de novembro, abrange telefones, tablets e dispositivos vestíveis que são enviados com um agente pré-instalado. Os desenvolvedores de agentes devem verificar a compatibilidade com cada dispositivo e gerenciar permissões, comunicações, segurança de rede e dados, direitos do usuário e execução de tarefas. Os desenvolvedores de aplicativos devem informar se os agentes podem invocar seus aplicativos, e um agente não pode forçar a entrada em um aplicativo sem esse consentimento. As atualizações remotas (over-the-air) para agentes existentes exigem um plano de atualização e avaliação especializada antes do lançamento.

Os agentes também devem portar um código de identificação único, e o ministério planeja construir um sistema de identificação de agentes confiável.

Por que o momento é importante, mesmo que nada esteja em vigor.

Nenhum dos documentos cria obrigações imediatas. As medidas do Reino Unido entrariam em vigor por meio de legislação secundária após a Sanção Real, depois de consulta pública e aprovação do Parlamento, e o governo ainda não definiu "perda de controle". O comunicado da China não indica uma data de vigência.

Essa lacuna representa uma oportunidade. As definições ainda estão em aberto, e as organizações que conseguirem descrever como gerenciam seus agentes na prática terão mais influência em uma consulta pública do que aquelas que aguardarem o texto final. (A ICO, por exemplo, está incompleta no original.) Apelo por evidências sobre IA ativa e dados pessoais O prazo para contribuições de quem quiser participar, do ponto de vista do Reino Unido, se encerra em 20 de novembro. Também esperamos que outros órgãos reguladores façam perguntas semelhantes, pois elas decorrem diretamente do funcionamento dos agentes. A elaboração de um inventário de agentes é um trabalho lento e pouco glamoroso, sendo mais fácil iniciá-lo antes do prazo final.

Por onde começar?

Comece com uma lista de todos os agentes, copilotos e automações de fluxo de trabalho em uso, incluindo aqueles que as equipes configuraram sem um chamado. Para cada um, registre a identidade sob a qual ele é executado e os dados confidenciais que essa identidade pode acessar. Os agentes podem herdar amplo acesso A partir da conta do funcionário ou do serviço que as iniciou, portanto, é nessa segunda coluna que as surpresas costumam aparecer.

Em seguida, restrinja o acesso de cada agente ao estritamente necessário para a sua tarefa. Depois, decida quais registros seriam necessários para reconstruir um incidente, seguindo o princípio da preservação de provas do Reino Unido, e onde eles seriam armazenados.

Como o BigID ajuda

BigID's governança de acesso a dados Conecta identidades, permissões, propriedade, atividade e sensibilidade de dados, permitindo que as equipes controlem o que agentes de IA, copilotos e fluxos de trabalho autônomos podem acessar. No que diz respeito à postura, o BigID Descobre modelos e agentes autorizados e não autorizados, O sistema monitora continuamente as alterações e permite que as equipes ajustem o escopo do acesso de copilotos e assistentes antes que os dados sejam expostos. Na prática, isso fornece uma resposta atualizada para a pergunta "quais agentes podem acessar quais dados confidenciais" e uma maneira de revogar ou restringir o acesso quando a resposta for inadequada.

Uma pergunta para sua próxima revisão.

Se um órgão regulador solicitasse amanhã a lista de todos os agentes de IA da sua empresa e os dados sensíveis a que cada um deles tem acesso, quanto tempo levaria para elaborar essa lista?

Perguntas frequentes sobre a regulamentação de agentes de IA

O que é a regulação de agentes de IA?

A regulamentação de agentes de IA refere-se às regras e à supervisão que governam como os sistemas autônomos de IA operam, acessam informações e executam ações. As propostas emergentes abordam cada vez mais as identidades dos agentes, as permissões, o monitoramento, a responsabilização e a proteção de dados sensíveis.

Quais são as novas regulamentações para agentes de IA no Reino Unido e na China?

O Reino Unido propôs medidas no âmbito do seu Projeto de Lei de Segurança Cibernética e Resiliência que poderão introduzir requisitos para monitorização de agentes de IA, notificação de incidentes, preservação de provas e análises pós-incidente. O Ministério da Indústria da China publicou um aviso abordando a identidade, as permissões, o consentimento de utilização de aplicações e a segurança de agentes de IA pré-instalados em dispositivos móveis. Nenhuma dessas medidas estabelece obrigações imediatas, conforme descrito neste artigo.

Como as organizações podem controlar o acesso de agentes de IA a dados sensíveis?

As organizações devem inventariar os agentes de IA, identificar o usuário ou a conta de serviço sob a qual cada um opera, classificar as informações confidenciais às quais essas identidades podem acessar e aplicar permissões de privilégio mínimo. O monitoramento contínuo, as revisões de acesso e as restrições apropriadas às ações dos agentes ajudam a reduzir a exposição não autorizada.

Por que a identidade do agente de IA é importante para a segurança e a conformidade?

A identificação de agentes de IA ajuda as organizações a estabelecer qual agente realizou uma ação, sob qual autoridade operou e a quais informações teve acesso. A conexão da identidade do agente com permissões, sensibilidade de dados e registros de atividades facilita a responsabilização, as investigações de incidentes e a governança de acesso.

Como a BigID ajuda as organizações a governar o acesso de agentes de IA?

A BigID ajuda as organizações a descobrir dados sensíveis, compreender as relações de identidade e permissão e identificar acessos excessivos ou inadequados em ambientes suportados. Sua governança de acesso a dados, Gestão de Postura de Segurança de Dados (DSPM), e Segurança e governança da IA Essas funcionalidades ajudam as equipes a avaliar quais agentes e copilotos podem acessar informações confidenciais, priorizar a exposição e dar suporte a revisões de acesso e medidas corretivas.

PESQUISA E ORIENTAÇÃO

Fontes e Isenção de Responsabilidade Editorial

Este artigo faz referência a publicações e relatórios governamentais sobre a supervisão emergente de agentes de IA no Reino Unido e na China.

AVISO EDITORIAL

Este artigo fornece informações educacionais gerais e não constitui aconselhamento jurídico ou regulamentar. As medidas do Reino Unido aqui discutidas são propostas e estão sujeitas a processos legislativos e de consulta adicionais. O aviso do ministério chinês não especifica uma data de entrada em vigor. Os requisitos regulamentares, os prazos de implementação e as expectativas de fiscalização podem mudar. As organizações devem consultar publicações governamentais oficiais e assessoria jurídica qualificada ao avaliar as obrigações aplicáveis.

Conteúdo

Governança de Acesso a Dados Repensada para a Era da IA

Baixe o white paper para descobrir o que um DAG integrado realmente exige na era da IA — e como chegar lá.

Baixe o Whitepaper sobre Governança de IA