O desenvolvimento de sistemas de IA na União Europeia (UE) tornou-se um negócio arriscado, bem, apenas se o risco for considerado “inaceitável”. Em 2 de fevereiro de 2025, a Lei da UE sobre Inteligência Artificial (Lei IA) começou a aplicar suas disposições iniciais, marcando um passo significativo na regulamentação das tecnologias de IA na UE. A Lei da IA introduz uma estrutura para garantir a implantação ética e segura de sistemas de IA, categorizando-os com base nos níveis de risco e impondo as obrigações correspondentes.
Principais disposições agora em vigor
A primeira onda de disposições e restrições da Lei de IA já está em vigor, marcando um marco fundamental na abordagem regulatória da UE à inteligência artificial. Embora a Comissão Europeia ainda não tenha emitido orientações detalhadas sobre conformidade, as organizações agora devem aderir às novas regras aplicadas sobre práticas proibidas de IA e aos requisitos de alfabetização em IA.
Práticas de IA proibidas descritas no Artigo 5
A Lei de IA proíbe explicitamente certas aplicações de IA consideradas como portadoras de “risco inaceitável”. Entre elas:
- Sistemas de IA que manipulam o comportamento humano em detrimento dos usuários.
- Sistemas de IA que exploram vulnerabilidades relacionadas à idade, deficiência ou status socioeconômico.
- Sistemas de pontuação social pelos governos.
- Sistemas de identificação biométrica em tempo real em espaços públicos, com exceções específicas.
- Bancos de dados de reconhecimento facial criados a partir de imagens coletadas on-line ou de filmagens de segurança.
- IA de detecção de emoções em escolas e locais de trabalho.
- Software de previsão criminal.
Organizações que forem flagradas implantando tais sistemas de IA proibidos na UE poderão enfrentar multas de até 7% de sua receita anual ou 35 milhões de euros, o que for maior.
Com essas regulamentações agora em vigor, as empresas que operam no setor de IA devem enfrentar os desafios de conformidade enquanto aguardam novas orientações da Comissão Europeia.
Requisitos de alfabetização em IA
O Artigo 4 da Lei de IA determina que indivíduos e entidades que utilizam IA possuam conhecimento técnico suficiente sobre os sistemas de IA que operam. Isso inclui a compreensão da funcionalidade, do uso pretendido e dos potenciais impactos da IA para garantir uma implantação segura e ética.
Provisões futuras
Embora as disposições iniciais já estejam ativas, aspectos significativos adicionais da Lei da IA entrarão em vigor em 2 de agosto de 2025. Estes incluem:
- Autoridades de execução: As autoridades competentes dos Estados-membros serão nomeadas, ganhando poder regulatório para emitir multas e fazer cumprir a regulamentação.
- Obrigações para provedores de IA de uso geral: Os provedores de modelos de IA de uso geral precisarão cumprir obrigações específicas para garantir a conformidade com a Lei de IA.
Como o BigID ajuda a reduzir o risco de IA
Navegar pelas complexidades da Lei de IA da UE exige estratégias robustas de gestão de dados e conformidade. Com BigID, as organizações podem melhorar suas postura de segurança, permitir privacidade proativa e mitigação de riscos, e implementar controles baseados em riscos. Para cumprir as regulamentações de IA, as organizações devem ter visibilidade e controle tanto dos sistemas de IA quanto dos dados acessados por eles.
A BigID oferece soluções para ajudar organizações a se alinharem aos requisitos do AI Act:
- Descubra e classifique dados: O BigID permite descoberta e classificação automatizadas para criar um inventário de dados, modelos de IA e sistemas, fornecendo às organizações uma compreensão abrangente do seu cenário de dados de IA.
- Mitigar o risco de dados: Ao identificar e avaliar dados associados a sistemas de IA, o BigID ajuda as organizações a criar políticas, avaliar riscos potenciais e implementar os controles necessários para mitigá-los.
- Alcançar a conformidade: A abordagem centrada em dados da BigID oferece suporte ao gerenciamento proativo da conformidade regulatória, garantindo que as organizações cumpram os requisitos do AI Act.
- Proteja o ciclo de vida dos dados de IA: A BigID fornece ferramentas para proteger o ciclo de vida dos dados de IA, garantindo a proteção e a conformidade dos dados durante todo o desenvolvimento e a implantação de sistemas de IA.
- Proteja e governe a IA: Implemente controles de segurança em torno de dados e modelos, incluindo a capacidade de alertar sobre dados de alto risco, revogar permissões e acessar e corrigir dados de alto risco.
Com o abrangente BigID plataforma de inteligência de dados, as organizações podem gerenciar efetivamente seus dados de IA, mitigar riscos e garantir a conformidade com o cenário regulatório em evolução estabelecido pela Lei de IA da UE.
Antecipe-se à Lei de IA com o BigID— fale com nossos especialistas em IA ou faça um tour.
Autor
