Los agentes de IA ya se autentican en los sistemas, extraen datos y realizan acciones en nombre de su organización. En otras palabras, funcionan como identidades.
La cuestión a la que se enfrentan ahora mismo los equipos de seguridad no es si los agentes de IA necesitan controles de identidad, sino si su enfoque actual de gestión de identidades y accesos (IAM) está diseñado para gestionar entidades que no se comportan de forma parecida a los usuarios humanos para los que fue creado.
Cada agente de IA que se conecta a una aplicación SaaS, consulta una base de datos o lee archivos desde el almacenamiento en la nube realiza las mismas funciones que cualquier otra identidad en su entorno: se autentica, se autoriza y ejecuta acciones. El hecho de que ningún humano escriba esas solicitudes no cambia el requisito de gobernanza.
Eso lo hace más urgente.
¿Qué es, entonces, la gestión de identidades y accesos (IAM) para agentes de IA? Aplica los mismos principios básicos que se utilizan para los usuarios humanos (autenticación, autorización, mínimo privilegio, gestión del ciclo de vida y auditabilidad) a identidades no humanas que actúan de forma autónoma en diferentes sistemas, a menudo sin supervisión humana directa en el momento de la acción.
Conclusiones clave: Gestión de identidad y acceso para agentes de IA
- Los agentes de IA funcionan como identidades: se autentican, obtienen autorización y realizan acciones en diferentes sistemas, lo que hace que los controles de IAM no sean opcionales, sino esenciales para cualquier organización que implemente IA basada en agentes.
- La gestión de identidades y accesos (IAM) tradicional se diseñó para usuarios humanos y cuentas de servicio estáticas; los agentes de IA actúan dinámicamente en múltiples sistemas, generan subagentes y delegan tareas de maneras que los flujos de trabajo de gobernanza de identidades existentes no pueden rastrear.
- Cada agente de IA debe tener un propietario humano u organizacional designado; sin una propiedad clara, los agentes acumulan permisos con el tiempo sin que nadie sea responsable de revisarlos o revocar su acceso.
- La gestión de identidades y accesos (IAM) a nivel de sistema por sí sola es insuficiente: una gobernanza eficaz requiere correlacionar los permisos de los agentes con la sensibilidad de los datos para identificar a qué tipos específicos de datos regulados puede acceder un agente, no solo a qué sistemas puede autenticarse.
- Las identidades de agentes huérfanas son una verdadera superficie de ataque: los agentes configurados para un proyecto y nunca desactivados conservan todos los permisos originales indefinidamente sin que nadie los audite.
- Las revisiones periódicas de acceso no pueden seguir el ritmo de la IA con agentes; se requiere una monitorización automatizada continua para detectar desviaciones de permisos antes de que los agentes con permisos excesivos creen una brecha o un incidente de cumplimiento.
En qué se diferencian los agentes de IA de las identidades no humanas tradicionales.
Las cuentas de servicio y las claves de la interfaz de programación de aplicaciones (API) son estáticas: permisos fijos, comportamiento predecible y acceso definido de antemano.
Los agentes de IA rompen por completo ese modelo, y ahí es donde la gobernanza se complica.
Los agentes de IA requieren un nuevo modelo de identidad.
Los agentes de IA operan en múltiples sistemas, realizando tareas que requieren acceso dinámico y contextual. Un agente puede leer datos de un sistema de gestión de relaciones con el cliente (CRM), escribir en un lago de datos o llamar a una API externa, todo dentro de un mismo flujo de trabajo.
También pueden generar subagentes o delegar tareas, creando cadenas de identidades que las herramientas de gestión de identidades y accesos (IAM) existentes a menudo no pueden rastrear. Este alcance multisistema y la delegación dificultan la rendición de cuentas, lo que pone de manifiesto por qué los modelos tradicionales de cuentas de servicio no son suficientes para los agentes de IA.
Gestionar el acceso de los agentes de IA es diferente.
Los usuarios humanos siguen patrones predecibles. Inician sesión desde dispositivos conocidos, acceden a un conjunto definido de aplicaciones y su comportamiento es relativamente consistente. Sin embargo, los agentes de IA no siguen guiones. Sus necesidades de acceso cambian dinámicamente según lo que estén haciendo, lo que hace que el exceso de permisos sea más probable y más difícil de detectar mediante las revisiones de acceso estándar.
La imprevisibilidad del comportamiento de la IA con agentes implica que la certificación de acceso periódica resulta insuficiente. Para cuando se realiza la revisión trimestral, un agente podría haber accedido a millones de registros a los que no debería haber tenido acceso.
Aplicación de los principios básicos de IAM a los agentes de IA
La buena noticia es que los principios de IAM con los que su equipo ya está familiarizado se aplican directamente a los agentes de IA. El desafío radica en aplicarlos a entidades que no se ajustan fácilmente a sus flujos de trabajo de administración y gobernanza de identidades existentes.
Autenticación
Cada agente de IA debe tener una identidad única y verificada, vinculada a un propietario humano o organizacional. No se aceptan credenciales compartidas. Cuando varios agentes comparten un token OAuth (una clave digital que otorga acceso a los sistemas) o una clave API, se pierde la capacidad de atribuir acciones a un agente específico; un registro de auditoría claro depende de saber con exactitud quién o qué realizó cada acción.
Autorización y principio de mínimo privilegio
Los agentes de IA solo deben recibir los permisos necesarios para completar sus tareas específicas y definidas. Estos permisos deben limitarse a los tipos de datos, sistemas y acciones mínimos necesarios, en lugar de heredarse del usuario que los implementa o de la aplicación en la que opera el agente.
Esto resulta especialmente complejo en entornos con numerosas aplicaciones SaaS. Los agentes integrados en aplicaciones de terceros pueden heredar permisos amplios de la propia plataforma, en lugar de obtenerlos mediante decisiones de acceso deliberadas de su equipo. Las organizaciones que trabajan en la gobernanza de la IA reconocen que esta es una de las deficiencias más importantes y menos abordadas en la seguridad de la IA empresarial actual.
Gestión del ciclo de vida
Los agentes deben configurarse con un propósito definido y desactivarse cuando finalice dicho propósito.
Las identidades de agentes huérfanas crean una superficie de ataque real: un agente creado para un proyecto hace seis meses puede conservar todos sus permisos originales, a menudo sin que nadie los revise ni los audite.
Auditabilidad
Cada acción que realiza un agente debe registrarse asociada a su identidad. Tanto el Marco de Gestión de Riesgos de IA del NIST como la Ley de IA de la UE establecen requisitos de auditabilidad que los controles de IAM deben cumplir para los sistemas de IA.
Es necesario poder reconstruir a qué accedió un agente, qué modificó y qué transmitió. Dicha reconstrucción debe ser posible sin una investigación manual que dure días.
El problema de la propiedad: Responsabilidad de los agentes de IA
Este es un desafío de gobernanza que la mayoría de los marcos de gestión de identidades y accesos (IAM) no han abordado por completo. Cada identidad de agente de IA necesita un propietario humano u organizacional designado, responsable de sus permisos, comportamiento y desactivación. Sin esta asignación, los agentes pueden acumular acceso con el tiempo sin que nadie se responsabilice de revisarlo o revocarlo.
Su proceso de gobernanza debe definir, para cada agente:
- ¿Quién es el responsable de la identidad de este agente?
- ¿Qué acciones está autorizado a realizar y sobre qué datos?
- ¿Cuándo caduca su acceso o requiere recertificación?
La propiedad se vuelve especialmente compleja en flujos de trabajo multiagente. Cuando un agente delega una tarea a otro, la cadena de responsabilidades puede volverse confusa. Los marcos de gobernanza deben gestionar la delegación de forma explícita, en lugar de tratarla como un caso excepcional.
Si su equipo aún no cuenta con un inventario de agentes de IA implementados y asignados a sus responsables humanos, comience por ahí. Realice el inventario, asigne la propiedad a cada agente y documente su alcance de permisos antes del próximo ciclo de revisión de acceso.
El acceso a los datos es la capa que falta en la gestión de identidades y accesos (IAM) de los agentes de IA.
La gestión de identidades y accesos (IAM) tradicional gobierna el acceso al sistema, determinando a qué aplicaciones y API puede acceder una identidad. no Controlar el acceso a los datos: qué archivos, registros o conjuntos de datos específicos puede leer, escribir o extraer un agente.
Esta distinción es crucial. Un agente con acceso de lectura a un depósito de almacenamiento en la nube puede tener acceso a millones de registros confidenciales que nunca han sido revisados ni clasificados. El simple hecho de saber que el agente se autenticó correctamente no indica qué datos tuvo realmente en cuenta.
El riesgo de que un agente de IA tenga demasiados permisos
Consideremos un agente con permisos de lectura/escritura para un lago de datos, cuya tarea solo requiere acceso de lectura a una única tabla. Dicho agente puede leer registros regulados en todo el lago, modificar datos y, potencialmente, exponer información confidencial a través de sus salidas. La revisión de acceso que aprobó el acceso al lago de datos generalmente no especifica qué datos dentro del lago son accesibles, y es ahí donde se produce la exposición.
La gobernanza eficaz de los agentes de IA requiere correlacionar los permisos de identidad con la sensibilidad de los datos. Es necesario saber no solo que el agente puede autenticarse en el sistema, sino también a qué tipos específicos de datos puede acceder: información de identificación personal (PII), información de salud protegida (PHI), registros financieros u otros datos regulados.
Sin esta visibilidad a nivel de datos, la gestión de identidades y accesos (IAM) a nivel de sistema por sí sola no puede evitar permisos excesivos, combinaciones de acceso perjudiciales o acceso abierto en entornos de nube, SaaS y locales.
Gobernanza de preproducción para agentes de IA
Las preguntas sobre gobernanza que su equipo debe responder en el momento del aprovisionamiento, y no después de un incidente, son sencillas, aunque implementar las respuestas requiera trabajo:
- ¿A qué datos puede acceder este agente y alguno de ellos está regulado, es sensible o está sujeto a políticas de retención?
- ¿Quién es el propietario de esta identidad de agente y quién revisa sus permisos?
- ¿Qué permisos son excesivos en relación con el alcance de la tarea definida del agente?
- ¿Cómo se revocará el acceso de este agente cuando se desactive o cambie el alcance de sus tareas?
Estas no son cuestiones puntuales. El comportamiento de los agentes y la exposición de datos evolucionan más rápido de lo que permiten los ciclos de revisión trimestrales. Una gobernanza eficaz requiere revisiones continuas de acceso con monitorización automatizada que detecte desviaciones de permisos antes de que se produzca una brecha de seguridad.
Cómo BigID aborda la identidad de los agentes de IA y la gobernanza del acceso
BigID ayuda a las organizaciones a comprender qué agentes y modelos de IA tienen acceso a datos confidenciales o regulados, y no solo a qué sistemas pueden acceder. Su plataforma proporciona visibilidad sobre permisos excesivos, combinaciones de acceso riesgosas y el contexto de la capa de datos que las herramientas tradicionales de gestión de identidades y accesos (IAM) suelen pasar por alto.
El marco AI TRiSM (Gestión de Confianza, Riesgo y Seguridad de la IA) de BigID admite la gobernanza a lo largo de todo el ciclo de vida del agente, incluyendo el descubrimiento, la definición del alcance del acceso, el seguimiento del linaje de datos y la aplicación de políticas. La monitorización automatizada puede detectar cuándo los permisos del agente se salen de las políticas definidas, y los flujos de trabajo de corrección pueden ayudar a asignar revisiones, ajustar el acceso o aplicar controles de mínimo privilegio.
Para fortalecer su modelo de gobernanza de IA, comience por evaluar la cobertura de identidad no humana, asignar los agentes de IA a sus responsables y explorar las soluciones de BigID para el acceso a datos con reconocimiento de identidad y la gestión de agentes de IA. El uso de estas herramientas puede garantizar que su organización cuente con la visibilidad y los controles necesarios para gestionar los agentes de IA de forma segura y eficaz.
Póngase en contacto con nuestro equipo para hablar sobre cómo BigID identifica los riesgos de la IA en su entorno de datos y fortalece la gobernanza de los agentes de IA.
Preguntas frecuentes
¿Qué es la gestión de identidades y accesos (IAM) para agentes de IA?
La gestión de identidades y accesos (IAM) para agentes de IA aplica los mismos principios fundamentales que se utilizan para los usuarios humanos (autenticación, autorización, mínimo privilegio, gestión del ciclo de vida y auditabilidad) a las identidades no humanas que actúan de forma autónoma en diferentes sistemas. De esta manera, garantiza que los agentes de IA accedan únicamente a los datos y sistemas necesarios para sus tareas.
¿En qué se diferencian los agentes de IA de las cuentas de servicio o las claves API?
A diferencia de las cuentas de servicio estáticas o las claves API, los agentes de IA actúan de forma contextual, encadenando acciones y solicitando acceso dinámicamente según la tarea. Pueden interactuar con múltiples sistemas, generar subagentes o delegar tareas, lo que plantea nuevos desafíos para la gobernanza y la auditabilidad.
¿Por qué es importante la propiedad para los agentes de IA?
Cada agente de IA necesita un propietario humano o organizacional designado. Sin una propiedad clara, los agentes pueden acumular permisos con el tiempo sin que nadie sea responsable de revisarlos o revocarlos, lo que genera un riesgo para la seguridad y el cumplimiento normativo.
¿Cómo pueden las organizaciones garantizar el acceso con privilegios mínimos para los agentes de IA?
Los permisos deben limitarse al mínimo necesario para las tareas definidas del agente. Las organizaciones deben evitar los permisos heredados o excesivamente amplios, implementar la monitorización continua y aplicar flujos de trabajo automatizados para la revisión y corrección de accesos.
¿Cómo ayuda BigID a controlar el acceso de los agentes de IA?
BigID proporciona visibilidad sobre qué agentes y modelos de IA tienen acceso a datos sensibles o regulados, identifica permisos excesivos o combinaciones de acceso riesgosas y ofrece gobernanza del ciclo de vida, incluyendo el descubrimiento, la definición del alcance del acceso y la aplicación de políticas.
¿Qué deberían hacer primero los equipos de seguridad?
Comience por asignar agentes de IA a sus propietarios humanos, definir su alcance de acceso y revisar la cobertura de identidades no humanas en su entorno. El monitoreo continuo y la aplicación de políticas ayudan a prevenir que los agentes con permisos excesivos generen vulnerabilidades.
Autor
