A Lei de IA da UE é uma regulamentação inovadora – a primeira política global de IA deste tipo – concebida para supervisionar a forma como as empresas desenvolvem, utilizam e implementam tecnologias de IA. A lei visa garantir que a utilização de tecnologias de IA seja segura e ética, e baseia-se numa abordagem de “gestão de riscos”, o que significa que as regras são concebidas para gerir a segurança e a ética. riscos associado a vários casos de uso de negócios relacionados à IA.
As empresas que utilizam IA terão que cumprir as obrigações de conformidade em gestão de riscosGovernança de dados, transparência e segurança de TI.
Resumindo: Quanto maior o risco associado a uma aplicação de IA (e aos dados que ela utiliza), mais rigorosas serão as regras que regem seu uso.
Por onde começar com a Lei de IA da UE: siga os dados.
Segundo a Gartner, a chave para gerenciar esses riscos é "seguir os dados". Muitos dos riscos descritos nas regulamentações decorrem do processamento de categorias especiais de dados pessoais.
A Lei da UE sobre IA define várias categorias de risco – e as duas primeiras são as mais importantes:
- Risco inaceitável: Qualquer coisa considerada de risco inaceitável é terminantemente proibida. Isso inclui dados e processamento, como identificação biométrica em tempo real, ou quaisquer dados ou atividades usados para manipular o comportamento e as emoções humanas.
- Alto risco: Esta é a área mais crítica – dados e processos como dados financeiros e de seguros (preços, solvência, análise de risco) e dados de funcionários e educacionais (desempenho, recrutamento, características).
- Risco limitado: Isso está sujeito a uma transparência menor – mais voltado para garantir que os usuários estejam consciente que estão interagindo com IA (pense em chatbots)
- Risco mínimo: Atualmente não regulamentado – um filtro de spam com inteligência artificial, por exemplo.
Portanto, as organizações devem:
- Catalogar casos de uso de IA: Documente os sistemas de IA, os dados processados por esses sistemas, as finalidades do processamento e os processos de negócio envolvidos.
- Classificar sistemas de IA: Faça um inventário dos seus sistemas de IA e entenda o que você tem, a quais dados eles acessam e quais direitos de acesso possuem.
- Classificar os dados que a IA utiliza.: Classifique seus dados e implementar controles com base em risco, contexto, conteúdo e tipo – para que você possa gerenciar, rastrear e gerar relatórios facilmente sobre quais dados a IA usou para treinamento, a quais dados ela tem acesso e o quão sensíveis e de alto risco esses dados são.
Os dados são o cerne do risco.
A classificação dessas categorias de risco começa com os dados. O tipo de dados com os quais os sistemas de IA são treinados, aos quais podem acessar e que podem monitorar determina o nível de risco. Portanto, compreender e controlar seus dados é crucial.
As organizações precisam:
- Identificar quais dados são seguros para uso em IA.
- Determine quais dados se enquadram em políticas de risco específicas.
- Classificar dados para garantir a conformidade com os requisitos de confidencialidade e regulamentares.
Garantir a visibilidade e o controle dos dados
Para cumprir as novas regulamentações, as organizações devem ter visibilidade e controle tanto sobre os sistemas de IA quanto sobre os dados acessados por esses sistemas. Isso envolve:
- Inventariar tanto os modelos de IA quanto os dados em toda a organização.
- Manter registros claros sobre quais dados os sistemas de IA podem acessar e quais dados já acessaram.
- Monitorar o quê? dados Os sistemas de IA têm acesso a informações para garantir a conformidade e a segurança – identificando a sensibilidade, as políticas às quais se enquadra e o risco que representa.
- Implementar controles de segurança em torno de dados e modelos, incluindo a capacidade de:
- Alerta sobre dados de alto risco ou acesso incomum
- Revogar permissões e acesso
- Corrigir dados de alto risco
Como a BigID ajuda na implementação da Lei de IA da UE
A abordagem centrada em dados da BigID permite que as empresas gerenciem proativamente a conformidade regulatória — desde a descoberta automatizada de dados e sistemas até a classificação abrangente (e precisa) de dados e sistemas, passando pela remediação de dados, sistemas e usuários. Com a BigID, as organizações podem aprimorar sua postura de segurança, viabilizar a mitigação proativa de riscos e privacidade e implementar controles baseados em risco.
A Lei de IA da UE é uma iniciativa histórica – e provavelmente apenas a ponta do iceberg em termos de regulamentação de IA. Antecipe-se à Lei de IA e esteja em conformidade com o cenário regulatório de IA em constante evolução com a BigID: tFale com nossos especialistas em IA, faça um tourE veja como a BigID ajuda organizações de todos os tipos a conhecer e controlar seus dados – para regulamentação de IA, inovação e muito mais.
Autor
