Pular para o conteúdo
Ver todos os eventos

Sob demanda

Por que Governança de IA Necessidades de Diversidade e Inclusão

A Governança de IA é cada vez mais utilizada em muitas organizações para tomar decisões automatizadas e repetíveis por meio de Inteligência Artificial (IA). Em aplicações empresariais recentes, grandes volumes de dados podem ajudar a responder a perguntas recorrentes, como: "Quem obtém aprovação para um empréstimo bancário?" em uma empresa de hipotecas. Outra aplicação é uma ferramenta experimental de contratação da Amazon, na qual a IA foi utilizada para auxiliar na seleção de currículos para a seleção de candidatos para uma entrevista. Mas quais são os problemas inerentes ao uso de grandes conjuntos de dados para esses tipos de aplicações empresariais? Como a Governança de IA pode reduzir o viés nos resultados do modelo?

A preocupação de muitos profissionais de dados em relação à utilização da IA é a falta de transparência, explicabilidade e ética. Padrões são desenvolvidos para garantir que os dados em um relatório financeiro sejam consistentes com os números em um painel. A linhagem ajuda a explicar a origem dos dados, bem como como eles são calculados à medida que se movem entre diferentes sistemas em uma organização. Por fim, a ética é o uso de dados que demonstra que o devido cuidado é tomado para garantir que os dados sejam usados corretamente, conforme definido na finalidade da coleta. O código de conduta ética também deve descrever o comportamento dos profissionais de dados que têm contato com os dados de seus clientes.

O conceito de Governança de IA é um termo cunhado recentemente e usado por muitas organizações para explicar como seus programas de gerenciamento de dados são utilizados para impulsionar suas decisões de negócios baseadas em dados. Essa prática precisa levar em consideração regulamentações de privacidade recentes, como o Regulamento Geral sobre a Proteção de Dados (GDPR) na UE e a Lei de Privacidade do Consumidor da Califórnia (CCPA) nos Estados Unidos. As regulamentações de privacidade são outra dimensão da Governança de IA que exige uma melhor compreensão dos dados utilizados pelas organizações.

A estrutura para Governança de IA se beneficia de uma diversidade de stakeholders nas áreas de negócios, conformidade e jurídica para ajudar a identificar e revisar o uso de dados. Controles e processos adicionais na estrutura, com a inclusão de diferentes usuários, ajudam a identificar lacunas e reduzir o viés criado por um grupo homogêneo de Governança de IA.