Skip to content
Voir tous les événements

Sur demande

Pourquoi Gouvernance de l'IA Besoins en matière de diversité et d'inclusion

La gouvernance de l'IA est de plus en plus utilisée dans de nombreuses organisations pour prendre des décisions automatisées et reproductibles grâce à l'intelligence artificielle (IA). Dans les applications métier récentes, de grands volumes de données peuvent aider à répondre à des questions récurrentes telles que : « Qui obtient l'approbation d'un prêt bancaire ? » dans une société de crédit immobilier. Une autre application est un outil de recrutement expérimental d'Amazon, qui a exploité l'IA pour faciliter la sélection des CV afin de sélectionner les candidats à un entretien. Mais quels sont les problèmes inhérents à l'utilisation de grands ensembles de données pour ce type d'applications métier ? Comment la gouvernance de l'IA peut-elle réduire les biais dans les résultats des modèles ?

De nombreux professionnels des données s'inquiètent du manque de transparence, d'explicabilité et d'éthique lié à l'utilisation de l'IA. Des normes sont élaborées pour garantir la cohérence des données d'un rapport financier avec les chiffres d'un tableau de bord. La traçabilité permet d'expliquer l'origine des données et leur mode de calcul lorsqu'elles transitent par les différents systèmes d'une organisation. Enfin, l'éthique désigne l'utilisation des données qui démontre que les précautions nécessaires sont prises pour garantir leur utilisation conforme à la finalité de leur collecte. Un code de conduite éthique doit également décrire le comportement des professionnels des données en contact avec les données de leurs clients.

Le concept de gouvernance de l'IA est un terme récemment inventé par de nombreuses organisations pour expliquer comment leurs programmes de gestion des données existants alimentent leurs décisions commerciales basées sur les données. Cette pratique doit prendre en compte les récentes réglementations en matière de confidentialité, telles que le Règlement général sur la protection des données (RGPD) dans l'UE et la loi californienne sur la protection de la vie privée des consommateurs (CCPA) aux États-Unis. La réglementation sur la confidentialité est une autre dimension de la gouvernance de l'IA qui nécessite une meilleure compréhension des données utilisées par les organisations.

Le cadre de gouvernance de l'IA bénéficie de la diversité des parties prenantes de l'entreprise, des services de conformité et du service juridique, ce qui permet d'identifier et d'analyser l'utilisation des données. Des contrôles et processus supplémentaires, intégrant différents utilisateurs, permettent d'identifier les lacunes et de réduire les biais liés à un groupe de gouvernance de l'IA homogène.