Lei de Transparência de IA da Califórnia: Lacunas de Conformidade

Conteúdo gerado por IA pode parecer autêntico mesmo depois que as informações que comprovam sua origem tiverem desaparecido.

Uma imagem pode ser criada com um modelo generativo de IA, baixada, editada, carregada em uma plataforma de colaboração, compartilhada em redes sociais e reutilizada em outra aplicação. Em algum ponto desse processo, as informações que identificam sua origem podem ser perdidas.

Isso é mais do que um problema de rotulagem de conteúdo. Cria uma lacuna de confiança e responsabilidade.

O Lei de Transparência da IA da Califórnia, A Lei de Inteligência Artificial, estabelecida pelo Projeto de Lei do Senado 942 e expandida pelo Projeto de Lei da Assembleia 853, introduz requisitos destinados a tornar certas imagens, vídeos e áudios gerados por IA mais identificáveis e suas origens mais fáceis de verificar.

Para as organizações abrangidas, a conformidade envolve mais do que adicionar um rótulo de "gerado por IA". Requer atenção à proveniência do conteúdo, divulgações legíveis por máquina, ferramentas de detecção, distribuição por terceiros e às informações pessoais associadas aos registros de autenticidade.

A questão crucial: sua organização consegue preservar e verificar a autenticidade do conteúdo de IA em todos os sistemas onde o conteúdo é criado, modificado, hospedado e compartilhado?

Este guia explica os requisitos da lei, quem eles afetam, onde surgem lacunas operacionais e como as organizações podem fortalecer a transparência da IA sem perder o controle dos dados subjacentes.

O que é a Lei de Transparência de IA da Califórnia?

A Lei de Transparência da IA da Califórnia é uma lei estadual destinada a melhorar a transparência em torno de certos conteúdos digitais gerados e alterados por IA.

Originalmente promulgada por meio de Projeto de Lei do Senado 942, A lei estabelece requisitos de divulgação e detecção para fornecedores qualificados de sistemas de IA generativa.

Posteriormente, a Califórnia promulgou Projeto de Lei da Assembleia 853, adiando a data operacional original e estendendo o quadro a participantes adicionais no ecossistema de conteúdo digital.

A legislação está codificada nas Seções 22757 a 22757.6 do Código de Negócios e Profissões da Califórnia.

Seu objetivo principal é simples: ajudar as pessoas a identificar determinados conteúdos gerados por IA e acessar informações confiáveis sobre como esse conteúdo foi criado ou modificado.

Mas a implementação desse objetivo requer coordenação técnica.

Uma etiqueta de conteúdo pode ser exibida em uma interface. Informações de proveniência podem estar incorporadas em um arquivo ou em seus metadados. As ferramentas de detecção devem identificar informações relevantes, respeitando as restrições de privacidade. As plataformas de distribuição podem precisar preservar os sinais de autenticidade criados em outros locais.

A transparência da IA não é apenas um rótulo atribuído ao conteúdo. É uma informação que precisa permanecer utilizável ao longo de todo o ciclo de vida do conteúdo.

Quando entra em vigor a Lei de Transparência de IA da Califórnia?

A lei possui um cronograma de implementação faseado.

Embora o projeto de lei SB 942 tenha originalmente estabelecido 1º de janeiro de 2026 como a data de entrada em vigor, o projeto de lei AB 853 transferiu os requisitos principais para 2 de agosto de 2026.

Estão previstas obrigações adicionais para 1º de janeiro de 2027 e 1º de janeiro de 2028, dependendo do tipo de organização e da tecnologia envolvida.

Quem deve cumprir a Lei de Transparência de IA da Califórnia?

A lei distingue entre diversas categorias de organizações.

Fornecedores de IA generativa abrangidos

Um provedor abrangido é uma pessoa ou organização que cria, programa ou produz de alguma outra forma um sistema de IA generativa com mais de um milhão de visitantes ou usuários mensais e que seja acessível publicamente na Califórnia.

Esses fornecedores estão sujeitos aos principais requisitos legais de divulgação e detecção.

Grandes plataformas online

A partir de 1º de janeiro de 2027, requisitos adicionais se aplicam a plataformas qualificadas de mídia social voltadas para o público, compartilhamento de arquivos, mensagens em massa e buscas independentes.

A definição legal inclui um limite de mais de dois milhões de usuários únicos mensais durante os 12 meses anteriores, juntamente com outras condições e exclusões.

Plataformas de hospedagem de IA generativa

A partir de 1º de janeiro de 2027, as plataformas de hospedagem GenAI abrangidas pela lei não poderão, conscientemente, disponibilizar sistemas de IA generativa que não apresentem as divulgações exigidas pela lei.

Fabricantes de dispositivos de captura

A partir de 1º de janeiro de 2028, certos fabricantes deverão fornecer informações específicas sobre a procedência dos dispositivos qualificados produzidos para venda na Califórnia a partir dessa data.

Essas obrigações estão sujeitas às condições legais de viabilidade técnica e às normas vigentes.

O que exige a Lei de Transparência de IA da Califórnia?

Os requisitos principais concentram-se em tornar determinadas imagens, vídeos e áudios gerados por IA identificáveis por meio de divulgações visíveis, informações de proveniência incorporadas e ferramentas de detecção acessíveis.

Embora os sistemas generativos de IA possam produzir texto, as principais disposições da Lei sobre divulgação e detecção de conteúdo abordam especificamente imagens, vídeos, áudios e combinações desses formatos.

1. Ferramentas gratuitas de detecção de IA

Os provedores abrangidos devem disponibilizar gratuitamente uma ferramenta de detecção por IA que permita aos usuários avaliar se o conteúdo qualificado foi criado ou alterado pelo sistema de IA generativa desse provedor.

A ferramenta deve atender a critérios legais relacionados à acessibilidade pública, upload de conteúdo ou envio de URLs, suporte a API, informações de procedência do sistema e feedback do usuário.

A lei também restringe a forma como os provedores podem coletar e reter informações pessoais e conteúdo enviado por meio da ferramenta de detecção.

2. Divulgações Manifestas

Os provedores abrangidos devem oferecer aos usuários a opção de incluir uma declaração explícita identificando o conteúdo qualificado como gerado por IA.

As informações declaradas são elaboradas com o objetivo de serem compreensíveis para as pessoas e adequadas ao meio de conteúdo.

Por exemplo, uma etiqueta visível gerada por IA em uma imagem ou uma indicação sonora associada a um áudio sintético podem ajudar a comunicar a origem.

O requisito legal inclui a permanência ou a resistência à remoção, na medida em que seja tecnicamente viável.

3. Revelações Ocultas

Os provedores abrangidos devem incluir divulgações de informações ocultas em conteúdo de imagem, vídeo e áudio gerado por IA que se qualifique.

Essas divulgações detectáveis por máquina devem atender a critérios específicos que envolvem informações de procedência, viabilidade técnica, padrões da indústria, detecção e resistência à remoção.

As informações relevantes sobre a proveniência podem incluir o fornecedor, o nome e a versão do modelo, a data de criação ou alteração e um identificador único.

4. Controles de licenciamento de terceiros

Quando os fornecedores abrangidos licenciam seus sistemas GenAI a terceiros, a lei exige proteções contratuais que preservem a capacidade do sistema de incluir as divulgações latentes necessárias.

Os provedores abrangidos também devem tomar medidas específicas caso descubram que um licenciado modificou um sistema de forma que ele não possa mais incluir essas divulgações.

O fio condutor é a continuidade: as informações sobre a autenticidade do conteúdo devem ser criadas, detectáveis e protegidas em todas as relações técnicas e comerciais relevantes.

Por que a proveniência do conteúdo de IA é importante

A proveniência do conteúdo descreve informações que ajudam a estabelecer a origem do conteúdo digital, como ele foi criado e se foi modificado.

Em ambientes empresariais, essa informação pode ficar fragmentada.

Uma imagem pode ser gerada por um serviço, editada por outro, armazenada em um sistema de gerenciamento de ativos digitais e publicada por meio de uma plataforma de conteúdo separada.

Um vídeo pode ser exportado para um novo formato. Um arquivo de áudio pode ser processado por meio de um fluxo de trabalho de produção. Um arquivo pode ter seus metadados removidos durante a conversão ou distribuição.

Cada etapa pode afetar a disponibilidade ou a integridade das informações de procedência.

É por isso que a autenticidade do conteúdo exige mais do que gerar metadados uma única vez.

As organizações precisam entender a origem da informação, quais sistemas a preservam e onde ela pode ser perdida.

Especificações técnicas amplamente adotadas, incluindo as Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA) ecossistema, fornecer abordagens para anexar informações de proveniência verificáveis ao conteúdo digital.

No entanto, as organizações devem distinguir entre adotar uma norma técnica e cumprir os requisitos específicos da lei. A implementação deve ser avaliada em relação às disposições legais aplicáveis.

Cinco lacunas de transparência em IA que as organizações frequentemente ignoram.

Uma empresa pode ter uma política de IA, ferramentas de geração de conteúdo aprovadas e um fluxo de trabalho de publicação estabelecido, sem saber se as informações de autenticidade sobrevivem a esse fluxo de trabalho.

As lacunas geralmente surgem entre os sistemas de IA, os ativos digitais, o processamento de dados e a distribuição.

O que acontece quando o conteúdo de IA perde sua proveniência?

Considere uma organização de mídia que utiliza um provedor de IA generativa com cobertura oculta para produzir uma imagem promocional.

O arquivo original contém informações de procedência legíveis por máquina. Em seguida, um designer edita a imagem, exporta uma versão compactada e a carrega em um sistema de gerenciamento de conteúdo.

Outra equipe distribui a imagem por meio de uma plataforma de terceiros.

Ao final do fluxo de trabalho, o conteúdo visível permanece o mesmo. No entanto, as informações de autenticidade podem não estar mais disponíveis.

Agora a organização precisa de respostas:

• Qual sistema gerou a imagem originalmente?
• As informações de proveniência necessárias foram incluídas no momento da criação?
• A edição ou exportação removeu ou alterou a divulgação?
• A ferramenta de detecção do provedor consegue identificar o conteúdo?
• A plataforma de distribuição preserva as informações de proveniência suportadas?
• Quem é o responsável pelo fluxo de trabalho e quem investiga as falhas?
• Que alterações técnicas impediriam que o problema se repetisse?

O exemplo não estabelece automaticamente uma violação por parte de todas as organizações envolvidas. Diferentes obrigações legais se aplicam a diferentes agentes, e alguns deveres estão sujeitos à viabilidade técnica.

Mas isso demonstra o desafio operacional.

O conteúdo pode permanecer utilizável mesmo após o desaparecimento da sua proveniência. A lacuna de autenticidade resultante pode ser invisível até que alguém tente verificar a sua origem.

As ferramentas de detecção por IA também criam obrigações de privacidade.

Um dos requisitos menos óbvios da lei diz respeito às informações pessoais processadas por meio de ferramentas de detecção de IA.

O usuário pode enviar uma fotografia, vídeo ou arquivo de áudio para determinar se ele foi gerado ou alterado pelo sistema de um provedor abrangido pela regulamentação.

Essa submissão pode conter informações pessoais, metadados ou campos de proveniência associados a um indivíduo.

A legislação da Califórnia restringe a coleta ou retenção de informações pessoais de usuários de ferramentas de detecção por parte dos provedores abrangidos, exceto em casos específicos de feedback opcional.

A lei também restringe a retenção do conteúdo enviado além do necessário para fins de conformidade e proíbe a retenção de dados pessoais de origem presentes no conteúdo enviado.

Isso cria uma distinção importante:

As organizações precisam de informações suficientes para avaliar a autenticidade do conteúdo sem transformar o processo de verificação em uma fonte desnecessária de coleta de dados pessoais.

As equipes de privacidade e segurança devem avaliar como as ferramentas de detecção lidam com uploads, metadados, feedback, retenção e exclusão.

Essas considerações estão alinhadas com um panorama mais amplo. Governança de IA Práticas que envolvem limitação de finalidade, minimização de dados e supervisão.

Como a AB 853 amplia os requisitos de transparência em IA?

A lei AB 853 estende a legislação original, que antes se limitava a provedores GenAI qualificados, a participantes adicionais envolvidos na distribuição e captura de conteúdo.

Grandes plataformas online precisam abordar a questão da procedência.

A partir de 1º de janeiro de 2027, as grandes plataformas online qualificadas deverão detectar dados de proveniência compatíveis, fornecer aos usuários acesso a informações de autenticidade específicas e evitar, na medida do possível, a remoção intencional de dados de proveniência ou assinaturas digitais de sistemas compatíveis.

Isso integra a distribuição de conteúdo à estrutura de transparência.

Uma plataforma pode não criar conteúdo gerado por IA por si só, mas pode influenciar se as informações de autenticidade permanecem disponíveis para os usuários.

As plataformas de hospedagem GenAI enfrentam restrições adicionais.

A partir de 1º de janeiro de 2027, as plataformas de hospedagem GenAI abrangidas pela lei não poderão disponibilizar, conscientemente, sistemas que não incluam as divulgações exigidas pela lei.

Isso introduz mais um ponto de controle na distribuição da tecnologia de IA generativa.

Fabricantes de dispositivos de captura aderem à estrutura

A partir de 1º de janeiro de 2028, os dispositivos de captura especificados, produzidos pela primeira vez para venda na Califórnia, deverão suportar divulgações latentes sob as condições estabelecidas por lei.

O objetivo é aprimorar as informações de procedência associadas ao conteúdo capturado por meio de dispositivos, e não apenas ao conteúdo gerado por IA.

A lei AB 853 reconhece que a autenticidade do conteúdo depende de um ecossistema. Geradores, serviços de hospedagem, plataformas de distribuição e dispositivos de captura desempenham papéis diferentes.

Quais são as penalidades por violar a lei?

A Lei de Transparência em IA da Califórnia autoriza uma penalidade civil de $5.000 por violação, que pode ser executada por meio de ações civis movidas pelo Procurador-Geral da Califórnia, um procurador municipal ou um advogado do condado.

De acordo com as disposições aplicáveis, cada dia em que um provedor abrangido, uma grande plataforma online ou um fabricante de dispositivos de captura permanecer em violação será tratado como uma violação separada.

A lei também prevê medidas específicas de fiscalização relativas a terceiros licenciados que continuam a utilizar um sistema GenAI licenciado após a revogação da licença, de acordo com as condições legais.

Essas disposições não devem ser interpretadas como penalidades automáticas para cada campo de metadados ausente ou para cada caso em que a proveniência do conteúdo não possa ser verificada.

A responsabilidade depende da obrigação legal aplicável, da entidade abrangida, dos fatos e do processo de execução.

Para as organizações, a prioridade prática é compreender as obrigações aplicáveis e estabelecer processos para identificar e corrigir falhas de controle.

Como as organizações devem se preparar para a conformidade com a transparência da IA na Califórnia?

Um programa de preparação eficaz começa por identificar o papel da organização no ecossistema de conteúdo e os sistemas que criam, modificam, detectam, armazenam ou distribuem conteúdo digital relevante.

Como a BigID apoia a preparação para a transparência da IA

A Lei de Transparência de IA da Califórnia aborda a autenticidade e a transparência do conteúdo. A BigID oferece suporte a uma parte relacionada, porém distinta, desse desafio: a compreensão e a governança dos sistemas de IA corporativos e dos ambientes de dados envolvidos.

A BigID ajuda as organizações a descobrir ativos de IA, identificar informações confidenciais, compreender o acesso e as relações de dados e fortalecer a supervisão da governança.

• Descoberta de ativos por IA: Identificar sistemas, aplicações e modelos de IA generativa, bem como IA paralela, em ambientes empresariais.
• Descoberta de dados sensíveis: Encontre e classifique informações pessoais e regulamentadas em repositórios e fluxos de trabalho relevantes.
• Linhagem de dados: Compreenda a origem e a movimentação de dados em ambientes empresariais conectados.
• Governança de acesso à IA: Investigar o acesso humano e não humano a informações sensíveis.
• Gestão de riscos em IA: Priorize as exposições levando em consideração a sensibilidade, o acesso, as políticas e o contexto de negócios.
• Evidências de governança: Apoiar avaliações, responsabilidades, remediação e supervisão de conformidade.

Essas funcionalidades podem ajudar as organizações a compreender sua presença em IA e os riscos de dados associados aos sistemas relevantes.

No entanto, a marca d'água de conteúdo, as ferramentas de detecção de IA exigidas por lei e a verificação de procedência são funções técnicas distintas. As organizações devem avaliar essas capacidades diretamente, em vez de presumir que uma plataforma geral de governança de IA as forneça.

A abordagem mais eficaz conecta controles especializados de autenticidade de conteúdo com processos mais amplos de descoberta por IA, segurança de dados, privacidade e governança.

Por que a transparência da IA não deve ser um silo

A Lei de Transparência da IA da Califórnia faz parte de um cenário regulatório crescente que aborda inteligência artificial, autenticidade digital, privacidade e responsabilidade.

As organizações também podem precisar considerar outras leis que abordam comunicações geradas por IA, mídia sintética, decisões automatizadas, proteção de dados e transparência para o consumidor.

Esses requisitos não são intercambiáveis.

Uma obrigação de comprovação de procedência de conteúdo difere de um requisito de avaliação de risco de IA. Uma declaração de mídia sintética difere de um aviso de privacidade. Um sinal de autenticidade legível por máquina difere de um inventário de IA empresarial.

Mas os processos de governança subjacentes podem compartilhar informações importantes.

As equipes de segurança precisam entender os sistemas de IA e o acesso a eles. As equipes de privacidade precisam ter visibilidade das informações pessoais. As equipes de conformidade precisam determinar quais leis se aplicam. As equipes técnicas precisam implementar e testar as funcionalidades de divulgação relevantes.

Uma base comum facilita a coordenação dessas responsabilidades sem a necessidade de consolidar leis distintas em uma única lista de verificação.

Explore o BigID Monitoramento da regulamentação global de IA Acompanhar os desenvolvimentos regulatórios da IA na Califórnia, em outros estados dos EUA e em jurisdições internacionais.

Lei de Transparência de IA da Califórnia: Perguntas Frequentes

O que é a Lei de Transparência de IA da Califórnia?

A Lei de Transparência de IA da Califórnia, estabelecida pela SB 942 e alterada pela AB 853, cria requisitos relacionados à identificação e à proveniência de certas imagens, vídeos e áudios gerados por IA. As organizações abrangidas podem precisar fornecer recursos de divulgação, ferramentas de detecção de IA ou controles relacionados à proveniência, dependendo de sua função.

Quando entrou em vigor a Lei de Transparência de IA da Califórnia?

Os requisitos essenciais da Lei entraram em vigor em 2 de agosto de 2026. Disposições adicionais estão previstas para 1º de janeiro de 2027, para determinadas grandes plataformas online e plataformas de hospedagem GenAI, e para 1º de janeiro de 2028, para fabricantes específicos de dispositivos de captura.

Quem é considerado um prestador de serviços abrangido pela SB 942?

Um provedor abrangido é uma pessoa ou organização que cria, programa ou produz de alguma forma um sistema de IA generativa com mais de um milhão de visitantes ou usuários mensais e que seja acessível publicamente na Califórnia. A lei também estabelece requisitos específicos para outras entidades qualificadas.

A Lei de Transparência de IA da Califórnia exige marca d'água?

A lei exige capacidades específicas de divulgação manifesta e latente para os fornecedores abrangidos. As divulgações latentes envolvem informações de proveniência detectáveis por máquina que atendam aos critérios legais. As organizações não devem presumir que toda marca d'água visível ou campo de metadados satisfaça automaticamente esses requisitos.

Qual a diferença entre divulgações de IA manifestas e latentes?

Uma divulgação manifesta destina-se a ser facilmente percebida e compreendida por uma pessoa, como um rótulo visível gerado por IA. Uma divulgação latente é detectável por máquina e transmite informações específicas sobre a proveniência do conteúdo ou sua alteração, sujeitas aos requisitos técnicos aplicáveis.

A lei se aplica a textos gerados por IA?

A lei define IA generativa de forma suficientemente ampla para incluir sistemas que produzem texto. No entanto, seus principais requisitos de divulgação e detecção de conteúdo abordam especificamente imagens, vídeos, áudios e combinações desses formatos. Outras leis podem impor requisitos separados relativos a textos ou comunicações gerados por IA.

Quais são as penalidades por violar a Lei de Transparência de IA da Califórnia?

A Lei autoriza multas civis de US$ 1.000 a US$ 5.000 por violação. De acordo com as disposições aplicáveis, cada dia em que determinadas entidades abrangidas permanecerem em situação irregular será considerado uma violação separada. A aplicação da lei pode ser feita pelo Procurador-Geral da Califórnia, pelos procuradores municipais ou pelos advogados do condado.

A lei exige que as organizações protejam as informações pessoais utilizadas por ferramentas de detecção por IA?

Sim. A lei restringe os provedores abrangidos de coletar ou reter informações pessoais de usuários de ferramentas de detecção, com exceção limitada para feedback explícito. Ela também restringe a retenção de conteúdo enviado e dados de origem pessoal.

Como a BigID pode ajudar as organizações a se prepararem?

A BigID ajuda as organizações a descobrir ativos de IA, identificar dados sensíveis, compreender o acesso e a linhagem, avaliar os riscos de IA relacionados a dados e apoiar a supervisão da governança. Essas funcionalidades podem complementar tecnologias especializadas de autenticidade de conteúdo, mas não substituem as funções obrigatórias de marca d'água, divulgação ou detecção de IA.

Fontes e Leitura Complementar

• Legislatura da Califórnia: SB 942, Lei de Transparência da IA da Califórnia
• Legislatura da Califórnia: AB 853, Emendas à Lei de Transparência de IA da Califórnia
• Coalizão para Proveniência e Autenticidade de Conteúdo
• Rastreador de regulamentação global de IA BigID

Este artigo fornece informações educacionais gerais e não constitui aconselhamento jurídico. As organizações devem consultar um advogado qualificado em relação aos requisitos aplicáveis na Califórnia, definições legais, isenções e obrigações técnicas de implementação.