Estejamos preparados ou não, a inteligência artificial conquistou o mundo. A IA foi adotada por 781 mil empresas globais., o que representa um aumento acentuado em relação ao número de 55% em 2023. Seu enorme potencial indica que sua taxa de adoção continuará a crescer, exigindo uma estrutura robusta de gerenciamento de riscos de IA.
Mas, nesse boom tecnológico, surge uma crescente preocupação e necessidade com o uso ético da IA, especialmente porque ela já demonstrou seu potencial para... preconceito, discriminação e erro.
Em consequência disso, e de muitas outras questões relacionadas à privacidade de dados, legisladores de todo o mundo estão desenvolvendo novas regulamentações e regras para controlar o desenvolvimento e o uso da IA.
Vamos analisar mais de perto a conformidade regulatória da IA e como ela está afetando o cenário empresarial atual.
Como definimos a conformidade regulatória da IA
Como Governança de IA Como especialistas, definimos a conformidade regulatória em IA como um conjunto de práticas que mantêm o uso e o gerenciamento de tecnologias de IA por uma organização em conformidade com as leis, regulamentos e políticas aplicáveis.
E por falar em confiança, a implementação de regulamentações de IA também exige forte cibersegurança e gestão de riscos Estratégias para garantir que os sistemas de IA permaneçam protegidos contra exploração maliciosa.
Da IA não declarada às lacunas de conformidade, a maioria das organizações está operando às cegas — e vulnerável. Analise mais de perto o estado atual da governança de IA: seus principais riscos, regulamentações vigentes, dificuldades específicas de cada setor e muito mais.
Por que devemos nos preocupar com IA e conformidade regulatória?
Responsável e uso ético da IA O desenvolvimento está no cerne dessas políticas de conformidade.
A conformidade regulatória (especificamente em IA) visa ajudar as empresas a mitigar os riscos (legais, financeiros, etc.) associados ao uso de modelos de IA, tais como:
- violações de dados
- tratamento inadequado de dados pessoais
- Viés humano em dados de treinamento
Os frameworks de conformidade com IA protegem as empresas de potenciais penalidades e responsabilidades, que podem ser substanciais. Um dos exemplos mais famosos de multas relacionadas à IA é o que envolve... Clearview AI, uma empresa de tecnologia de reconhecimento facial que coletou fotos de rostos de pessoas em toda a internet sem o consentimento delas para criar um banco de dados biométrico, levantando riscos significativos de conformidade. A empresa foi multada em € 22 milhões.
Não são apenas as multas pesadas que as empresas precisam temer. Alcançar e manter a conformidade protege as empresas de danos à reputação, pois demonstra seu compromisso com práticas éticas.
Regulamentações existentes sobre IA
No contexto regulatório, a IA pode ser difícil de controlar devido à enorme velocidade de inovação. É um desafio para os órgãos reguladores criarem leis abrangentes, o que também representa um desafio para as empresas.
Algumas regulamentações específicas para IA já estão em vigor, mas as empresas também devem estar cientes dos requisitos adicionais de conformidade regulatória, por exemplo, aqueles que regem a segurança cibernética e a privacidade de dados. Como acontece com muitas leis de proteção de dados, a conformidade nem sempre depende de onde sua empresa está sediada, mas sim de onde ela opera.
Vamos analisar mais detalhadamente alguns requisitos de conformidade regulamentar existentes para sistemas de IA:
Nos Estados Unidos
O Lei de Pesquisa, Inovação e Responsabilização em Inteligência Artificial de 2024 (AIRIAA) Oferece uma estrutura para equilibrar transparência, responsabilidade e mitigação de riscos com a inovação em IA.
A primeira lei estadual a exigir a divulgação de dados de treinamento para sistemas de IA generativa entrará em vigor em 2026. Lei de Transparência de Dados de Treinamento de IA Generativa da Califórnia Promoverá o desenvolvimento transparente da IA, criará proteções específicas relativas a informações pessoais e proporcionará aos usuários uma melhor compreensão de como a IA funciona.
No Colorado, o Proteção do consumidor em relação à legislação de IAA lei, que visa proteger os residentes da discriminação algorítmica, entrará em vigor em 2026.
No Texas, o Lei de Governança Responsável de IAA lei que supervisionará o desenvolvimento, a implementação e o uso de sistemas de inteligência artificial no estado também será transformada em lei em 2026.
Em termos de leis de privacidade de dados, o Lei de Privacidade do Consumidor da Califórnia (CCPA) e o Lei de Privacidade de Dados do Consumidor da Virgínia (VCDA) Até recentemente, esses eram os únicos estados com leis oficiais que protegiam os dados do consumidor. No momento em que este texto foi escrito, já existem 20 estados com leis abrangentes de privacidade, e espera-se que mais aprovem leis semelhantes em breve.
Na Europa
Na UE, existem duas regulamentações principais que regulamentam a IA: Lei da IA da UE e o RGPD.
Lei da IA da UE
A Europa é o lar do primeiro do mundo estrutura abrangente de IA e impacta fornecedores e implementadores de IA tanto dentro como fora da União Europeia (caso os seus sistemas de IA sejam colocados no mercado da UE). Conhecida simplesmente como Lei de IA da UE, esta legislação classifica a IA em quatro categorias:
Risco inaceitável: Todas as práticas de IA que se enquadram nesta categoria são proibidas na UE.
Atualmente, existem oito aplicações de IA proibidas na Europa, incluindo:
- Manipulação subliminar para alterar o comportamento
- Exploração de vulnerabilidades (ex.: idade ou deficiência)
- Sistema de pontuação social que leva a tratamento injusto.
- Previsão de atividade criminosa
- Inferir estados emocionais em escolas ou locais de trabalho.
- Extrair imagens de pessoas da internet ou de câmeras de segurança para expandir um banco de dados de reconhecimento facial.
- Em tempo real identificação biométrica e a categorização de pessoas com base em atributos sensíveis como raça, religião ou orientação sexual.
Alto risco: Esses são os sistemas mais regulamentados dentro da UE. A IA de alto risco inclui qualquer sistema que possa ter consequências potencialmente negativas para a saúde e segurança de uma pessoa, seus direitos, bem como para o meio ambiente. Considera-se que essa categoria apresenta mais benefícios do que riscos, razão pela qual não é proibida.
Risco limitado: Um subconjunto menor de aplicações de IA se enquadra nessa categoria. IA de risco limitado é considerada qualquer sistema que ainda apresente risco de manipulação ou fraude. Os responsáveis pela implementação e os desenvolvedores também devem fornecer documentação aos legisladores e usuários para manter um nível de transparência e garantir que os usuários compreendam os riscos envolvidos no uso da IA.
Risco mínimo: Todos os outros sistemas de IA se enquadram nessa categoria. Esses sistemas não são regulamentados atualmente, mas a supervisão humana e a não discriminação são recomendadas.
Onde se enquadram o ChatGPT (IA generativa) e a IA de propósito geral (IAPG)? Historicamente, tem sido difícil classificar essa forma de inteligência artificial, pois seu risco depende do caso de uso.
RGPD
O RGPD é um regulamento importante que supervisiona a coleta, o processamento, o armazenamento e a gestão de dados pessoais de residentes europeus. Ele concede aos titulares dos dados (residentes da UE) certos direitos e controles sobre seus dados, como o direito a:
- Rejeitar e retirar o consentimento para o processamento de dados pessoais.
- Saiba quais informações são coletadas sobre eles.
- Corrija as informações coletadas sobre eles.
- Seja esquecido
- Negar determinados processos automatizados
As empresas que processam dados pessoais de cidadãos da UE devem estar em conformidade com o RGPD e atender a determinados requisitos, tais como:
Ter uma base legal (sendo o consentimento uma delas) para a coleta e o processamento de dados pessoais; coletar apenas a quantidade mínima necessária para a finalidade (limitação da finalidade); e não conservar os dados por mais tempo do que o necessário (minimização de dados).
- Ser transparente sobre para que os dados serão usados.
- Manter dados precisos e atualizados.
- Permitir que os titulares dos dados exerçam seus direitos sem prejuízo.
- Documentar suas políticas de registro de dados para processos de auditoria.
- Em caso de violação de dados, notificar as autoridades no prazo de 72 horas.
- Contratar um encarregado de proteção de dados (DPO) quando se trata de processamento de dados de alto risco.
- Facilitar a gestão do consentimento para os usuários
- Atualização das políticas de privacidade para incluir os requisitos do RGPD (Regulamento Geral sobre a Proteção de Dados).
- Nomear um representante da UE se a empresa estiver fora da UE.
Embora o GDPR não seja explicitamente uma regulamentação de IA, o desenvolvimento e a implementação de modelos de IA Deve cumprir os requisitos regulamentares do RGPD em termos de direitos do titular dos dados e minimização de dados.
Na Ásia
Em China, o Medidas provisórias A Lei para a Gestão de Serviços de Inteligência Artificial Generativa (2023) busca um equilíbrio semelhante ao da AIRIAA dos EUA, na medida em que procura conciliar inovação com transparência e uso responsável de serviços de IA generativa voltados para o público.
Na Coreia do Sul, o Lei Básica de IA da Coreia do Sul (SKAIA) Busca mitigar os riscos da IA e promover práticas confiáveis de IA, ao mesmo tempo que aumenta a inovação e as exportações do setor. A lei consiste em três pontos principais:
- Cria o Comitê Nacional de IA e um Instituto de Pesquisa em Segurança de IA.
- Promove o desenvolvimento da IA.
- Estabelece medidas de segurança relativas à utilização de substâncias de alto risco e IA generativa.
Independentemente de quando você ler isto, a governança da IA continuará sendo um alvo em constante movimento, portanto, o primeiro passo na criação de políticas internas para seus sistemas de IA deve ser se atualizar sobre as regulamentações mais recentes aplicáveis à sua organização.
Etapas para atender aos requisitos de conformidade de IA
Agora que exploramos algumas das principais regulamentações de IA e privacidade de dados em todo o mundo, vamos discutir como as empresas podem fortalecer seus esforços de conformidade com a IA:
Identificar e inventariar os sistemas de dados e de IA existentes.
O primeiro passo para usar a IA de forma responsável na sua organização é realizar uma auditoria de IA como parte do seu programa de conformidade. O objetivo é garantir que o uso da IA pela empresa esteja alinhado com os princípios estabelecidos.
Isso também inclui uma auditoria de como sua organização coleta, gerencia e cataloga dados não estruturadosou informações que não possuem formatação padrão, como e-mails e documentos.
Compreender quais dados você possui e onde encontrá-los pode ajudar a mitigar riscos e evitar violações de conformidade.
Estabelecer estruturas de governança de IA
A governança de IA estabelece as estruturas, os processos e as políticas que mantêm os sistemas de IA de uma empresa em conformidade com as regulamentações de IA.
Em um setor conhecido por sua complexidade e potencial para uso antiético, a melhor maneira de garantir que os sistemas de IA sejam desenvolvidos e usados de forma legal, ética e no melhor interesse das pessoas é criar um estrutura de governança de IAIsso promove a transparência, o que, por sua vez, gera confiança na IA.
Seu plano deve descrever claramente os valores, princípios e políticas da sua empresa em relação ao desenvolvimento responsável de IA e deve fornecer diretrizes para o gerenciamento de riscos, privacidade de dados, responsabilidade, etc.
Invista em ferramentas de segurança e governança de IA
Por que complicar a proteção e a governança de dados com processos manuais e fluxos de trabalho obsoletos quando você pode investir em uma solução simples que gerencia sistemas de IA e dados em todo o seu ambiente?
A inclusão de IA em soluções de conformidade regulatória proporciona à sua empresa um sistema de governança de dados mais dinâmico e preciso. Por exemplo, a BigID... Segurança e Governança de IA A solução gerencia confiança, risco e segurança com recursos e funcionalidades avançadas, como:
- Descoberta automática de dados e ativos de IA
- Proteção e governança
- Melhoria da higiene de dados
- Catalogação e curadoria
- Identificação e remediação de riscos
- Redução de riscos para o Microsoft Copilot
Nossas soluções colocam a privacidade, a segurança e a conformidade dos dados na vanguarda de suas iniciativas de conformidade regulatória em IA.
Descubra como proteger e governar seus dados de IA com contexto e controle baseados na avaliação de riscos.
Autor
