O Lei de IA da UE is a groundbreaking regulation – the first global AI policy of this kind – designed to oversee how companies develop, use, and implement AI technologies. The act is built to ensure that the use of AI technologies is both safe and ethical, and it’s built on a “risk-based” approach, meaning that the rules are designed to manage the riscos associado a vários casos de uso de negócios relacionados à IA.
As empresas que utilizam IA terão que cumprir as obrigações de conformidade em gestão de riscosGovernança de dados, transparência e segurança de TI.
Resumindo: Quanto maior o risco associado a uma aplicação de IA (e aos dados que ela utiliza), mais rigorosas serão as regras que regem seu uso.
Por onde começar com a Lei de IA da UE: siga os dados.
Segundo a Gartner, a chave para gerenciar esses riscos é "seguir os dados". Muitos dos riscos descritos nas regulamentações decorrem do processamento de categorias especiais de dados pessoais.
A Lei da UE sobre IA define várias categorias de risco – e as duas primeiras são as mais importantes:
- Risco inaceitável: Qualquer coisa considerada de risco inaceitável é terminantemente proibida. Isso inclui dados e processamento, como identificação biométrica em tempo real, ou quaisquer dados ou atividades usados para manipular o comportamento e as emoções humanas.
- Alto risco: Esta é a área mais crítica – dados e processos como dados financeiros e de seguros (preços, solvência, análise de risco) e dados de funcionários e educacionais (desempenho, recrutamento, características).
- Risco limitado: Isso está sujeito a uma transparência menor – mais voltado para garantir que os usuários estejam consciente que estão interagindo com IA (pense em chatbots)
- Risco mínimo: Atualmente não regulamentado – um filtro de spam com inteligência artificial, por exemplo.
Portanto, as organizações devem:
- Catalogar casos de uso de IA: Documente os sistemas de IA, os dados processados por esses sistemas, as finalidades do processamento e os processos de negócio envolvidos.
- Classificar sistemas de IA: Faça um inventário dos seus sistemas de IA e entenda o que você tem, a quais dados eles acessam e quais direitos de acesso possuem.
- Classificar os dados que a IA utiliza.: Classifique seus dados e implementar controles com base em risco, contexto, conteúdo e tipo – para que você possa gerenciar, rastrear e gerar relatórios facilmente sobre quais dados a IA usou para treinamento, a quais dados ela tem acesso e o quão sensíveis e de alto risco esses dados são.
Os dados são o cerne do risco.
A classificação dessas categorias de risco começa com os dados. O tipo de dados com os quais os sistemas de IA são treinados, aos quais podem acessar e que podem monitorar determina o nível de risco. Portanto, compreender e controlar seus dados é crucial.
As organizações precisam:
- Identificar quais dados são seguros para uso em IA.
- Determine quais dados se enquadram em políticas de risco específicas.
- Classificar dados para garantir a conformidade com os requisitos de confidencialidade e regulamentares.
Garantir a visibilidade e o controle dos dados
Para cumprir as novas regulamentações, as organizações devem ter visibilidade e controle tanto sobre os sistemas de IA quanto sobre os dados acessados por esses sistemas. Isso envolve:
- Inventariar tanto os modelos de IA quanto os dados em toda a organização.
- Manter registros claros sobre quais dados os sistemas de IA podem acessar e quais dados já acessaram.
- Monitorar o quê? dados Os sistemas de IA têm acesso a informações para garantir a conformidade e a segurança – identificando a sensibilidade, as políticas às quais se enquadra e o risco que representa.
- Implementar controles de segurança em torno de dados e modelos, incluindo a capacidade de:
- Alerta sobre dados de alto risco ou acesso incomum
- Revogar permissões e acesso
- Corrigir dados de alto risco
Como a BigID ajuda na implementação da Lei de IA da UE
A abordagem centrada em dados da BigID permite que as empresas gerenciem proativamente a conformidade regulatória — desde a descoberta automatizada de dados e sistemas até a classificação abrangente (e precisa) de dados e sistemas, passando pela remediação de dados, sistemas e usuários. Com a BigID, as organizações podem aprimorar sua postura de segurança, viabilizar a mitigação proativa de riscos e privacidade e implementar controles baseados em risco.
A Lei de IA da UE é uma iniciativa histórica – e provavelmente apenas a ponta do iceberg em termos de regulamentação da IA. Antecipe-se à Lei de IA e esteja em conformidade com o cenário regulatório de IA em constante evolução com a BigID: Fale com nossos especialistas em IA, faça um tourE veja como a BigID ajuda organizações de todos os tipos a conhecer e controlar seus dados – para regulamentação de IA, inovação e muito mais.
Autor
