La IA se está implementando a un ritmo superior a la capacidad de control de la mayoría de los equipos de seguridad. Ya sean modelos de IA clandestinos que se ejecutan sin autorización o datos confidenciales que fluyen a herramientas de terceros sin supervisión, el resultado es el mismo: mayor riesgo regulatorio y puntos ciegos operativos. La mayoría de las organizaciones carecen de un sistema claro de supervisión de la IA, lo que deja a los modelos y los datos que los alimentan fuera del alcance del cumplimiento normativo y el control.
Esta sesión analiza cómo poner estructura en el caos. Desde catalogar cada modelo de IA y sus datos de entrada hasta aplicar políticas de uso y definir métricas de responsabilidad, los CISO pueden —y deben— liderar la gobernanza de la IA empresarial.
Principales conclusiones:
- Catálogo de modelos y datos: Desarrollar visibilidad de todos los modelos de IA en uso, incluidas las herramientas de terceros y las herramientas paralelas, y mapear sus fuentes de datos.
- Establecer políticas claras de uso de la IA: Definir qué está permitido, qué no y qué necesita revisión, garantizando la coherencia entre seguridad, aspectos legales, cumplimiento normativo y el negocio.
- Alinearse con los requisitos de gobernanza: Asegúrese de que sus programas de IA cumplan con los mandatos regulatorios, éticos y corporativos antes de que los marcos externos lo exijan.
- Seguimiento e informe: Ponga en marcha la supervisión con monitoreo activo, puntuación de riesgos e informes listos para auditoría en toda su infraestructura de IA.
- Anticípese a la normativa: Dado que los marcos regulatorios globales aún se están poniendo al día, la gobernanza interna es su mejor defensa —y ataque— para una adopción segura y escalable de la IA.
Oradores:
- Nimrod Vax, director de producto y cofundador de BigID
- Christopher Steffen, vicepresidente de investigación en seguridad de la información de Enterprise Management Associates (EMA).