Ir al contenido
Ver todos los eventos

A la carta

Por qué Gobernanza de la IA Necesidades Diversidad e inclusión

La gobernanza de la IA se utiliza cada vez más en muchas organizaciones para tomar decisiones automatizadas y repetibles mediante Inteligencia Artificial (IA). En aplicaciones empresariales recientes, grandes volúmenes de datos pueden ayudar a responder preguntas repetibles como: "¿Quién obtiene la aprobación de un préstamo bancario?" en una compañía hipotecaria. Otra aplicación es una herramienta de contratación experimental de Amazon, donde aprovecharon la IA para seleccionar currículums y candidatos para una entrevista. Pero ¿cuáles son los problemas inherentes al uso de grandes conjuntos de datos para este tipo de aplicaciones empresariales? ¿Cómo puede la gobernanza de la IA reducir el sesgo en los resultados del modelo?

La preocupación de muchos profesionales de datos en torno al uso de la IA reside en la falta de transparencia, explicabilidad y ética. Se desarrollan estándares para garantizar que los datos de un informe financiero coincidan con las cifras de un panel de control. El linaje ayuda a explicar la procedencia de los datos, así como su cálculo a medida que se transfieren entre los diferentes sistemas de una organización. Finalmente, la ética se refiere al uso de datos que demuestra el debido cuidado para garantizar que se utilicen correctamente, según lo definido en el propósito de la recopilación. Un código de conducta ética también debe describir el comportamiento de los profesionales de datos que interactúan con los datos de sus clientes.

El concepto de Gobernanza de la IA es un término acuñado recientemente que muchas organizaciones utilizan para explicar cómo sus programas de gestión de datos se utilizan para impulsar sus decisiones empresariales basadas en datos. Esta práctica debe tener en cuenta las recientes normativas de privacidad, como el Reglamento General de Protección de Datos (RGPD) en la UE y la Ley de Privacidad del Consumidor de California (CCPA) en Estados Unidos. Las normativas de privacidad constituyen otra dimensión de la Gobernanza de la IA que requiere una mejor comprensión de los datos que utilizan las organizaciones.

El marco para la Gobernanza de la IA se beneficia de la diversidad de actores clave en el negocio, el departamento de cumplimiento y el departamento legal, lo que ayuda a identificar y revisar el uso de los datos. Los controles y procesos adicionales en el marco, con la inclusión de diferentes usuarios, ayudan a identificar brechas y a reducir el sesgo que se crea en un grupo homogéneo de Gobernanza de la IA.