A Lei de IA da UE é uma regulamentação inovadora – a primeira política global de IA deste tipo – concebida para supervisionar como as empresas desenvolvem, utilizam e implementam tecnologias de IA. A lei foi elaborada para garantir que a utilização de tecnologias de IA seja segura e ética, e assenta numa abordagem "baseada no risco", o que significa que as regras são concebidas para gerir a riscos associado a vários casos de uso de negócios associados à IA.
As empresas que utilizam a IA terão de cumprir as obrigações de conformidade em gestão de riscos, governança de dados, transparência e segurança de TI.
Resumo: Quanto maior o risco associado a uma aplicação de IA (e aos dados que ela utiliza), mais rigorosas serão as regras que regem seu uso.
Por onde começar com a Lei de IA da UE: siga os dados
Segundo a Gartner, a chave para gerenciar esses riscos é "seguir os dados". Muitos dos riscos descritos nos regulamentos decorrem do processamento de categorias especiais de dados pessoais.
A Lei da UE sobre IA define várias categorias de risco – e são as duas primeiras que mais importam:
- Risco inaceitável: Qualquer coisa classificada como risco inaceitável é totalmente proibida. Isso inclui dados e processamentos como identificação biométrica em tempo real ou quaisquer dados ou atividades usados para manipular o comportamento e as emoções humanas.
- Alto risco: Esta é a área mais crítica: dados e processos como dados financeiros e de seguros (preços, capacidade de crédito, análise de risco) e dados de funcionários e educacionais (desempenho, recrutamento, características).
- Risco limitado: Isto está sujeito a uma transparência mais leve – mais sobre como garantir que os usuários estejam consciente que eles estão interagindo com IA (pense: chatbots)
- Risco mínimo: Atualmente não regulamentado – um filtro de spam habilitado por IA, por exemplo.
Portanto, as organizações devem:
- Casos de uso de IA de catálogo: Documente os sistemas de IA, os dados processados por esses sistemas, as finalidades do processamento e os processos de negócios envolvidos.
- Categorizar sistemas de IA: Faça um inventário dos seus sistemas de IA e entenda o que você tem, quais dados ele está acessando e quais direitos de acesso ele tem.
- Classifique os dados que a IA usa: Classifique seus dados e colocar controles em torno dele com base em risco, contexto, conteúdo e tipo – para que você possa facilmente gerenciar, rastrear e relatar quais dados a IA usou para treinamento, quais dados ela consegue acessar e quão sensíveis e de alto risco esses dados são.
Dados no centro do risco
A classificação dessas categorias de risco começa com os dados. O tipo de dados com os quais os sistemas de IA são treinados, podem acessar e monitorar determina o nível de risco. Portanto, compreender e controlar seus dados é crucial.
As organizações precisam:
- Identifique quais dados são seguros para uso de IA.
- Determine quais dados se enquadram em políticas de risco específicas.
- Classifique os dados para garantir a conformidade com os requisitos de confidencialidade e regulamentação.
Garantindo a visibilidade e o controle dos dados
Para cumprir com as novas regulamentações, as organizações devem ter visibilidade e controle sobre os sistemas de IA e os dados acessados por eles. Isso envolve:
- Inventariar modelos e dados de IA em toda a organização
- Manter registros claros de quais dados os sistemas de IA podem acessar e acessaram.
- Monitorando o que dados Os sistemas de IA têm acessado para garantir conformidade e segurança – qual é a sensibilidade, quais políticas ela abrange e qual risco ela representa.
- Implementar controles de segurança em torno de dados e modelos, incluindo a capacidade de:
- Alerta sobre dados de alto risco ou acesso incomum
- Revogar permissões e acesso
- Corrigir dados de alto risco
Como o BigID ajuda com a Lei de IA da UE
A abordagem centrada em dados da BigID permite que as empresas gerenciem proativamente a conformidade regulatória – desde a descoberta automatizada de dados e sistemas até a classificação abrangente (e precisa) de dados e sistemas, passando pela remediação de dados, sistemas e usuários. Com a BigID, as organizações podem aprimorar sua postura de segurança, habilitar a privacidade proativa e a mitigação de riscos, e implementar controles baseados em riscos.
A Lei de IA da UE é uma iniciativa histórica – e provavelmente apenas a ponta do iceberg em termos de regulamentação da IA. Antecipe-se à Lei de IA e à conformidade com o cenário regulatório de IA em evolução com o BigID: tfale com nossos especialistas em IA, faça um tour, e veja que o BigID ajuda organizações de todos os tipos a conhecer e controlar seus dados – para regulamentação de IA, inovação e muito mais.
Autor
