Las organizaciones implementan cada vez más agentes de IA, copilotos, asistentes, flujos de trabajo autónomos y aplicaciones basadas en IA en todos los entornos empresariales.
Muchos equipos de seguridad se centran en lo que esos sistemas pueden hacer.
Menos personas comprenden cómo esos sistemas obtuvieron acceso en primer lugar.
En la mayoría de los entornos, los agentes de IA no reciben permisos directamente.
Heredan los permisos a través de los sistemas de gestión de identidad, aplicaciones y acceso existentes.
Comprender el acceso heredado se está convirtiendo en uno de los requisitos más importantes para Seguridad de la IA, Gobernanza de identidad de IAy Gobernanza del acceso a la IA.
Cómo los agentes de IA heredan permisos: Conclusiones clave
- La mayoría de los agentes de IA no reciben permisos directamente. Heredan el acceso a través de aplicaciones, API, cuentas de servicio, identidades de máquina y roles de usuario.
- Los permisos heredados a menudo generan riesgos ocultos. Los sistemas de IA pueden acceder a información mucho más allá de su propósito comercial previsto.
- La visibilidad del acceso a la IA sigue siendo un desafío. Muchas organizaciones no pueden explicar con claridad por qué los sistemas de IA tienen acceso a aplicaciones, sistemas o datos específicos.
- El acceso excesivo a la IA suele ser hereditario. Las aplicaciones, las cuentas de servicio y las API con permisos excesivos pueden aumentar el riesgo para los sistemas de IA.
- La propiedad y la rendición de cuentas son importantes. Las organizaciones necesitan tener visibilidad sobre quién es el propietario de las identidades de IA y los permisos que heredan dichas identidades.
- Una gobernanza eficaz de la IA requiere comprender las vías de acceso. Las organizaciones no pueden reducir el riesgo que supone la IA hasta que comprendan cómo la IA obtuvo acceso.
Por qué los permisos de IA funcionan de manera diferente
Los usuarios tradicionales suelen recibir permisos a través de procesos de identidad establecidos.
Los empleados reciben Acceso basado en roles.
Las aplicaciones reciben permisos en función de los requisitos del negocio.
Agentes de IA Presentar un nuevo desafío.
Muchos sistemas de IA funcionan utilizando permisos heredados de otros sistemas.
El resultado es una cadena de accesos heredados que las organizaciones a menudo tienen dificultades para comprender.
Sin visibilidad sobre esas relaciones, los sistemas de IA pueden acceder a datos confidenciales, aplicaciones críticas para el negocio y flujos de trabajo privilegiados sin la supervisión adecuada.
La realidad oculta del acceso a la IA
La mayoría de las implementaciones de IA dependen de la infraestructura existente.
En lugar de crear modelos de acceso completamente nuevos, las organizaciones conectan los sistemas de IA a:
- Aplicaciones SaaS
- Software empresarial
- API
- Cuentas de servicio
- Entornos en la nube
- Plataformas de colaboración
- repositorios de datos
El sistema de IA hereda entonces cualquier acceso que esos sistemas ya posean.
Esto crea uno de los mayores puntos ciegos en la gobernanza moderna de la IA.
Cinco maneras en que los agentes de IA heredan permisos
1. Aplicaciones
Muchos copilotos de IA operan dentro de aplicaciones que ya poseen amplios permisos.
Los ejemplos incluyen:
- Microsoft 365
- Fuerza de ventas
- ServiceNow
- Espacio de trabajo de Google
- Flojo
Si una aplicación puede acceder a los datos, las capacidades de IA integradas en esa aplicación suelen heredar parte de ese acceso.
Riesgo
Las organizaciones entienden la aplicación pero no logran evaluarla. identidad de IA operando dentro de él.
2. API
Las API sirven cada vez más como el tejido conectivo de los sistemas de IA.
Los agentes de IA interactúan frecuentemente con los sistemas empresariales a través de API que ya tienen permisos para:
- Recuperar registros
- Actualizar información
- Ejecutar acciones
- Activar flujos de trabajo
Riesgo
El agente de IA hereda efectivamente todos los permisos que la API puede ejercer.
3. Cuentas de servicio
Muchos flujos de trabajo impulsados por IA funcionan a través de cuentas de servicio.
Estas cuentas suelen tener permisos amplios porque permiten la automatización en múltiples sistemas.
Riesgo
Una cuenta de servicio con permisos excesivos puede otorgar involuntariamente acceso excesivo a agentes de IA que dependen de ello.
Esta es una de las razones por las que las cuentas de servicio siguen siendo una fuente importante de riesgo de identidad.
4. Roles de usuario existentes
Los copilotos de IA suelen operar en nombre de los usuarios.
En estos entornos, el sistema de IA hereda los permisos asociados al usuario que lo invoca.
Riesgo
La IA puede acceder a todo lo que el usuario puede acceder, incluida información confidencial que la IA en realidad no necesita.
5. Identidades de las máquinas
Los sistemas de IA dependen cada vez más de:
- Certificados
- Fichas
- Misterios
- Identidades de carga de trabajo
- Credenciales en la nube
Estas identidades de máquina permiten la autenticación y la conectividad.
Riesgo
Los sistemas de IA pueden heredar permisos a través de identidades de máquina que las organizaciones ya tienen dificultades para inventariar y gestionar.
Obtenga más información sobre seguridad de identidad de máquina y su creciente papel en los entornos de IA.
Por qué el acceso heredado a la IA crea riesgos
La mayoría de los debates sobre los riesgos de la IA se centran en los modelos.
El principal desafío operativo suele estar relacionado con el acceso.
Cuando las organizaciones no pueden explicar por qué un sistema de IA tiene acceso, no pueden gestionar ese acceso de forma eficaz.
Los riesgos comunes incluyen:
Permisos excesivos
Los sistemas de IA heredan más acceso del necesario.
Exposición de datos confidenciales
Los agentes de IA obtienen acceso a información regulada, confidencial o crítica para el negocio.
Brechas de propiedad
Las organizaciones no pueden identificar quién es el responsable de las decisiones sobre el acceso a la IA.
Rutas de acceso ocultas
Los permisos provienen de sistemas que los equipos de seguridad quizás no asocien con la IA.
Riesgo de cumplimiento
Las organizaciones tienen dificultades para demostrar su buen gobierno y rendición de cuentas.
La cadena de permisos de IA
Uno de los conceptos más importantes que las organizaciones pasan por alto es la cadena de permisos de la IA.
Una ruta de acceso típica a la IA podría ser la siguiente:
Usuario → Aplicación → API → Cuenta de servicio → Repositorio de datos
El agente de IA puede operar en algún punto de esa cadena.
Comprender la cadena ayuda a las organizaciones a responder:
- Origen del acceso
- Por qué existe el acceso
- ¿Qué permisos se heredan?
- ¿Qué sistemas generan riesgo?
- ¿Qué datos sensibles quedan expuestos?
La gobernanza de la IA requiere visibilidad en toda la cadena.
Por qué las revisiones de acceso tradicionales no tienen en cuenta el riesgo de la IA
Las revisiones de acceso tradicionales se centran en:
- Usuarios humanos
- Aplicaciones
- Cuentas de servicio
La mayoría no fueron diseñados para evaluar identidades basadas en inteligencia artificial.
Como resultado, las organizaciones a menudo tienen dificultades para responder a:
- ¿Qué agentes de IA existen?
- ¿Qué permisos corresponden a los sistemas de IA?
- ¿Qué identidades de IA acceden a datos confidenciales?
- ¿Qué identidades de IA tienen acceso excesivo?
- ¿Quién posee los permisos de IA?
Aquí es donde la gobernanza de la identidad de la IA y la gobernanza del acceso a la IA se vuelven fundamentales.
Cómo ayuda la gobernanza del acceso a la IA
La gobernanza del acceso a la IA ayuda a las organizaciones a comprender:
- ¿A qué puede acceder la IA?
- Por qué existe el acceso
- Cómo se heredaban los permisos
- ¿Qué sistemas de IA generan riesgo?
- ¿Qué identidades de IA acceden a datos confidenciales?
En lugar de centrarse únicamente en los modelos de IA, las organizaciones obtienen visibilidad sobre los permisos y las vías de acceso que hay detrás de la IA.
Obtenga más información sobre Gobernanza del acceso a la IA.
Cómo BigID ayuda a gobernar el acceso heredado a la IA
BigID ayuda a las organizaciones a descubrir identidades de IA, comprender los permisos heredados, identificar accesos excesivos y vincular la actividad de la IA con la exposición de datos confidenciales.
Con BigID, las organizaciones pueden:
- Descubre agentes y copilotos de IA
- Comprender los permisos de IA heredados
- Revelar las rutas de acceso a la IA
- Identificar el acceso excesivo a la IA
- Conectar identidades de IA con datos confidenciales
- Priorizar el riesgo de acceso a la IA
- Fortalecer los programas de gobernanza de identidad de IA
BigID conecta los puntos entre las identidades, los permisos, la actividad y los datos confidenciales de la IA para que las organizaciones puedan reducir la exposición a los riesgos derivados de la IA antes de que se conviertan en un peligro.
Entienda a qué puede acceder la IA y por qué.
Los sistemas de IA rara vez reciben permisos directamente. Heredan el acceso a través de aplicaciones, API, cuentas de servicio, identidades de máquina y roles de usuario. BigID ayuda a las organizaciones a revelar las rutas de acceso de la IA, identificar permisos excesivos y reducir la exposición a riesgos derivados de la IA.
Preguntas frecuentes sobre permisos de IA
¿Cómo heredan los permisos los agentes de IA?
Los agentes de IA suelen heredar permisos a través de aplicaciones, API, cuentas de servicio, identidades de máquina y roles de usuario.
¿Por qué es arriesgado el acceso heredado a la IA?
El acceso heredado puede otorgar a los sistemas de IA más permisos de los necesarios, lo que aumenta la exposición a datos confidenciales y sistemas críticos para el negocio.
¿Qué es el acceso excesivo a la IA?
El acceso excesivo a la IA se produce cuando los sistemas de inteligencia artificial poseen permisos que van más allá de los necesarios para realizar la función prevista.
¿Cómo pueden las organizaciones identificar los permisos de IA heredados?
Las organizaciones necesitan visibilidad sobre las identidades de la IA, las rutas de acceso, los permisos, la propiedad y la exposición de datos confidenciales.
¿Qué es la gobernanza del acceso a la IA?
La gobernanza del acceso a la IA ayuda a las organizaciones a comprender, gestionar y reducir los riesgos asociados con los permisos y las vías de acceso a la IA.
¿Cuál es la diferencia entre la gobernanza de identidades de IA y la gobernanza de accesos de IA?
La gobernanza de identidades de IA se centra en descubrir y gestionar las identidades de IA. La gobernanza de accesos de IA se centra en a qué pueden acceder esas identidades y cómo los permisos generan riesgos.
Autor
