Até agora, a maior parte da regulamentação da IA tem se concentrado em modelos: como são treinados, o que os desenvolvedores devem divulgar e quais usos são proibidos. Esta semana, dois governos se voltaram para algo mais prático: o que um agente de IA pode acessar depois de estar em execução dentro de uma empresa ou em um dispositivo.
No Reino Unido, foi adicionada uma cláusula ao projeto de lei de segurança cibernética e resiliência. permitiria que os ministros regulamentassem a forma como a IA ativa é implementada. Na China, o Ministério da Indústria publicou um Aviso sobre agentes de IA pré-instalados em celulares, tablets e dispositivos vestíveis. Os dois documentos diferem em escopo e estilo, mas apontam para a mesma coisa.
Agentes transformam a política de IA em um problema de acesso.
Um agente não possui acesso próprio. Ele age com as permissões de quem ou o que o iniciou, portanto, uma regra sobre agentes é, na prática, uma regra sobre acesso: a quais dados um agente pode acessar, o que ele fez com esses dados e se alguém pode comprovar isso posteriormente. As equipes de segurança e privacidade serão as responsáveis por essa tarefa, e uma equipe que nunca listou seus agentes não poderá responder rapidamente.
O Reino Unido quer um registro de quando um agente perde o controle.
A cláusula foi introduzida na terceira leitura do projeto de lei na Câmara dos Lordes. Ela permitiria ao Secretário de Estado alterar os Regulamentos do NIS e o governo. ficha informativa Afirma que pretende consultar sobre quatro medidas: requisitos de segurança, como monitoramento das ações dos agentes e avaliação do risco dos agentes, notificação a outras organizações quando um agente for afetado, preservação de evidências de como um agente pode ter causado um incidente e revisões pós-incidente lideradas por ministros.
O objetivo são incidentes em que os operadores são “incapazes de monitorar ou controlar adequadamente os agentes de IA”. O Register relata que o escopo provável inclui operadores de serviços essenciais, provedores de serviços gerenciados e provedores de nuvem, enquanto a ficha informativa afirma que o escopo detalhado ainda está sendo definido.
A China quer que os agentes sejam identificados e tenham permissão para acessar o dispositivo.
O aviso do ministério, datado de 24 de outubro e publicado em 6 de novembro, abrange telefones, tablets e dispositivos vestíveis que são enviados com um agente pré-instalado. Os desenvolvedores de agentes devem verificar a compatibilidade com cada dispositivo e gerenciar permissões, comunicações, segurança de rede e dados, direitos do usuário e execução de tarefas. Os desenvolvedores de aplicativos devem informar se os agentes podem invocar seus aplicativos, e um agente não pode forçar a entrada em um aplicativo sem esse consentimento. As atualizações remotas (over-the-air) para agentes existentes exigem um plano de atualização e avaliação especializada antes do lançamento.
Os agentes também devem portar um código de identificação único, e o ministério planeja construir um sistema de identificação de agentes confiável.
Por que o momento é importante, mesmo que nada esteja em vigor.
Nenhum dos documentos cria obrigações imediatas. As medidas do Reino Unido entrariam em vigor por meio de legislação secundária após a Sanção Real, depois de consulta pública e aprovação do Parlamento, e o governo ainda não definiu "perda de controle". O comunicado da China não indica uma data de vigência.
Essa lacuna representa uma oportunidade. As definições ainda estão em aberto, e as organizações que conseguirem descrever como gerenciam seus agentes na prática terão mais influência em uma consulta pública do que aquelas que aguardarem o texto final. (A ICO, por exemplo, está incompleta no original.) Apelo por evidências sobre IA ativa e dados pessoais O prazo para contribuições de quem quiser participar, do ponto de vista do Reino Unido, se encerra em 20 de novembro. Também esperamos que outros órgãos reguladores façam perguntas semelhantes, pois elas decorrem diretamente do funcionamento dos agentes. A elaboração de um inventário de agentes é um trabalho lento e pouco glamoroso, sendo mais fácil iniciá-lo antes do prazo final.
Por onde começar?
Comece com uma lista de todos os agentes, copilotos e automações de fluxo de trabalho em uso, incluindo aqueles que as equipes configuraram sem um chamado. Para cada um, registre a identidade sob a qual ele é executado e os dados confidenciais que essa identidade pode acessar. Os agentes podem herdar amplo acesso A partir da conta do funcionário ou do serviço que as iniciou, portanto, é nessa segunda coluna que as surpresas costumam aparecer.
Em seguida, restrinja o acesso de cada agente ao estritamente necessário para a sua tarefa. Depois, decida quais registros seriam necessários para reconstruir um incidente, seguindo o princípio da preservação de provas do Reino Unido, e onde eles seriam armazenados.
Como o BigID ajuda
BigID's governança de acesso a dados Conecta identidades, permissões, propriedade, atividade e sensibilidade de dados, permitindo que as equipes controlem o que agentes de IA, copilotos e fluxos de trabalho autônomos podem acessar. No que diz respeito à postura, o BigID Descobre modelos e agentes autorizados e não autorizados, O sistema monitora continuamente as alterações e permite que as equipes ajustem o escopo do acesso de copilotos e assistentes antes que os dados sejam expostos. Na prática, isso fornece uma resposta atualizada para a pergunta "quais agentes podem acessar quais dados confidenciais" e uma maneira de revogar ou restringir o acesso quando a resposta for inadequada.
Uma pergunta para sua próxima revisão.
Se um órgão regulador solicitasse amanhã a lista de todos os agentes de IA da sua empresa e os dados sensíveis a que cada um deles tem acesso, quanto tempo levaria para elaborar essa lista?
Perguntas frequentes sobre a regulamentação de agentes de IA
O que é a regulação de agentes de IA?
A regulamentação de agentes de IA refere-se às regras e à supervisão que governam como os sistemas autônomos de IA operam, acessam informações e executam ações. As propostas emergentes abordam cada vez mais as identidades dos agentes, as permissões, o monitoramento, a responsabilização e a proteção de dados sensíveis.
Quais são as novas regulamentações para agentes de IA no Reino Unido e na China?
O Reino Unido propôs medidas no âmbito do seu Projeto de Lei de Segurança Cibernética e Resiliência que poderão introduzir requisitos para monitorização de agentes de IA, notificação de incidentes, preservação de provas e análises pós-incidente. O Ministério da Indústria da China publicou um aviso abordando a identidade, as permissões, o consentimento de utilização de aplicações e a segurança de agentes de IA pré-instalados em dispositivos móveis. Nenhuma dessas medidas estabelece obrigações imediatas, conforme descrito neste artigo.
Como as organizações podem controlar o acesso de agentes de IA a dados sensíveis?
As organizações devem inventariar os agentes de IA, identificar o usuário ou a conta de serviço sob a qual cada um opera, classificar as informações confidenciais às quais essas identidades podem acessar e aplicar permissões de privilégio mínimo. O monitoramento contínuo, as revisões de acesso e as restrições apropriadas às ações dos agentes ajudam a reduzir a exposição não autorizada.
Por que a identidade do agente de IA é importante para a segurança e a conformidade?
A identificação de agentes de IA ajuda as organizações a estabelecer qual agente realizou uma ação, sob qual autoridade operou e a quais informações teve acesso. A conexão da identidade do agente com permissões, sensibilidade de dados e registros de atividades facilita a responsabilização, as investigações de incidentes e a governança de acesso.
Como a BigID ajuda as organizações a governar o acesso de agentes de IA?
A BigID ajuda as organizações a descobrir dados sensíveis, compreender as relações de identidade e permissão e identificar acessos excessivos ou inadequados em ambientes suportados. Sua governança de acesso a dados, Gestão de Postura de Segurança de Dados (DSPM), e Segurança e governança da IA Essas funcionalidades ajudam as equipes a avaliar quais agentes e copilotos podem acessar informações confidenciais, priorizar a exposição e dar suporte a revisões de acesso e medidas corretivas.
