Los empleados no necesitan transferir datos confidenciales a una herramienta de IA no autorizada para generar riesgos relacionados con la IA.
A veces, solo necesitan conectarlo.
Un empleado autoriza a un asistente de IA a resumir archivos en una unidad en la nube. Un desarrollador conecta una herramienta de codificación de IA a un repositorio de código fuente. Un equipo empresarial agrega un agente de IA a una aplicación SaaS. Un flujo de trabajo autónomo utiliza una cuenta de servicio existente para recuperar información de una base de datos.
En cada caso, la herramienta de IA puede acceder a los datos a través de permisos que ya existen.
Esto crea un problema de seguridad cada vez mayor: Acceso a IA en la sombra.
El acceso encubierto a la IA se produce cuando las herramientas, agentes, aplicaciones o integraciones de IA obtienen acceso a los datos empresariales fuera de los procesos de seguridad y gobernanza establecidos, incluso a través de permisos heredados o delegados.
El desafío no es simplemente identificar qué herramientas de IA utilizan los empleados. Las organizaciones también necesitan comprender a qué pueden acceder esos sistemas de IA, cómo obtuvieron ese acceso, qué datos confidenciales contienen y si dicho acceso genera una exposición innecesaria.
Acceso a la IA en la sombra: Conclusiones clave
- La IA en la sombra también supone un problema de acceso. El hecho de encontrar una herramienta de IA no autorizada no indica a los equipos de seguridad a qué datos empresariales puede acceder.
- La IA puede heredar los permisos existentes. Los usuarios, las aplicaciones, las concesiones de OAuth, las API, las cuentas de servicio, las identidades de las máquinas y otras integraciones pueden ampliar el acceso a la IA.
- Una conexión no revela el riesgo total. Los equipos necesitan saber si el acceso a la IA llega a información pública o a datos confidenciales de clientes, empleados, información financiera, código fuente u otros datos críticos.
- Las rutas de acceso pueden extenderse a través de múltiples sistemas. Una herramienta de IA puede acceder a los datos indirectamente a través de una aplicación, una API o la identidad de una máquina.
- La IA en la sombra requiere una supervisión continua. Las nuevas herramientas, integraciones, identidades, permisos y datos pueden modificar la exposición tras una revisión inicial.
- BigID conecta el descubrimiento mediante IA con el contexto de acceso a los datos. Los equipos pueden identificar los sistemas de IA y comprender sus rutas de acceso, permisos, propiedad, actividad y exposición a datos confidenciales para priorizar los riesgos.
¿Qué es Shadow AI Access?
El acceso a la IA en la sombra es el acceso a datos empresariales creado por herramientas, agentes, aplicaciones o integraciones de IA que operan fuera de los procesos de IA aprobados o totalmente controlados.
Está estrechamente relacionado con IA en la sombra, pero ambos conceptos responden a diferentes preguntas de seguridad.
El descubrimiento de IA en la sombra plantea las siguientes preguntas: ¿Qué tipo de IA está utilizando la gente?
Shadow AI Access solicita: ¿Qué puede lograr esa IA?
Una organización puede identificar una aplicación de IA y aun así saber muy poco sobre el riesgo de datos que conlleva.
Los equipos de seguridad también deben determinar:
- ¿Qué usuarios e identidades se conectan al sistema de IA?
- ¿Qué permisos ha recibido?
- ¿Esos permisos se otorgaron directamente o se heredaron?
- ¿A qué aplicaciones, API, repositorios y bases de datos puede acceder?
- ¿Qué datos confidenciales contienen esos recursos?
- ¿Qué acciones puede realizar la IA?
- ¿Quién es el propietario de la integración?
- ¿El acceso responde a una finalidad comercial legítima?
Sin ese contexto, un inventario de herramientas de IA puede mostrar dónde existe la IA sin mostrar dónde la IA genera una exposición de datos significativa.
Vea a qué puede acceder la IA
Descubre cómo BigID conecta los sistemas de IA con identidades, permisos, rutas de acceso y datos confidenciales para que los equipos puedan comprender dónde el acceso a la IA genera riesgos.
Cómo la IA en la sombra accede a los datos empresariales
La IA no necesita una cuenta de base de datos dedicada para acceder a la información empresarial.
El acceso puede provenir de identidades e integraciones que las organizaciones ya utilizan.
1. Acceso delegado por el usuario
Consideremos el caso de un empleado que conecta un asistente de productividad con inteligencia artificial a una cuenta de almacenamiento en la nube.
El empleado ya tiene acceso a:
- Documentos del equipo
- presentaciones a clientes
- Previsiones financieras internas
- Contratos
- Documentos estratégicos
El empleado otorga a la aplicación de IA permiso para leer archivos, de modo que pueda buscar o resumir documentos.
La organización no ha otorgado acceso directo a la herramienta de IA. El usuario ha ampliado el acceso que ya tenía a la misma.
Si los permisos de ese usuario ya son excesivos, la integración de IA puede heredar las consecuencias de ese acceso excesivo.
2. Permisos de la aplicación y de OAuth
Las aplicaciones modernas de IA suelen integrarse con las plataformas SaaS empresariales mediante OAuth u otros métodos de autorización delegada.
Una integración útil podría solicitar permiso para leer archivos, mensajes, calendarios, contactos, repositorios o registros.
La empresa ve en ello una ventaja en términos de productividad.
La seguridad necesita comprender la relación de acceso que subyace.
Un permiso como el de "leer archivos" cambia sustancialmente cuando esos archivos contienen registros de clientes, información de empleados, contratos, credenciales, propiedad intelectual o información regulada.
3. API
Los agentes de IA utilizan con frecuencia las API para recuperar información o ejecutar acciones.
Por ejemplo, un agente de soporte puede llamar a una API que recupera los registros de clientes de un CRM.
Si la API permite al agente recuperar todos los registros de clientes cuando el flujo de trabajo solo requiere información sobre el cliente que solicita asistencia en ese momento, la IA podría tener un acceso más amplio del que requiere su propósito.
La interfaz de IA puede parecer de alcance limitado, mientras que la API que la respalda proporciona un acceso mucho más amplio.
4. Cuentas de servicio e identidades de máquina
Un flujo de trabajo de IA puede autenticarse a través de una cuenta de servicio en lugar de un usuario individual.
Esa cuenta de servicio podría ser anterior al proyecto de IA por años.
Con el tiempo, es posible que haya acumulado acceso a bases de datos, sistemas de almacenamiento, aplicaciones y recursos en la nube.
Conectar un agente de IA a esa identidad puede, de repente, hacer que esos permisos existentes sean relevantes para la seguridad de la IA.
Por eso seguridad de identidad de máquina y la gobernanza del acceso a la IA se entrecruzan cada vez más.
Cómo se extiende el acceso a la IA en la sombra
La dificultad reside en que el acceso a la IA puede tener que pasar por varias capas antes de llegar a los datos.
Un ejemplo real: El asistente de reuniones con IA
Imaginemos un equipo de ventas que adopta un asistente de reuniones basado en inteligencia artificial.
A primera vista, la decisión de seguridad parece sencilla. La herramienta registra las reuniones y genera resúmenes.
Pero el equipo lo conecta con otros sistemas:
- Calendarios corporativos
- Correo electrónico
- almacenamiento en la nube
- El CRM
- Plataformas de colaboración
Ahora, el potencial de la herramienta para recopilar datos va más allá de las transcripciones de las reuniones.
Dependiendo de sus permisos, podría acceder a nombres de clientes, información de contacto, negociaciones contractuales, precios, previsiones de ventas, estrategia interna, problemas de soporte u otra información confidencial.
El riesgo no proviene de las palabras "asistente de reuniones con IA".“
El riesgo proviene de la combinación de acceso, permisos, datos confidenciales y propósito comercial.
Por eso, bloquear o aprobar una aplicación de IA basándose únicamente en su nombre o categoría no resuelve el problema de fondo.
Otro ejemplo: El asistente de IA para desarrolladores
Un desarrollador conecta un asistente de codificación de IA a un repositorio de código fuente.
El objetivo es legítimo: ayudar al desarrollador a comprender el código, solucionar problemas y trabajar más rápido.
Pero el repositorio contiene más que la lógica de la aplicación.
También puede contener:
- claves API
- Misterios
- cadenas de conexión a la base de datos
- URLs internas
- Algoritmos propietarios
- Datos de configuración del cliente
- Detalles de la infraestructura
La cuestión importante ya no es simplemente si la empresa permite el uso del asistente de codificación con IA.
La organización necesita saber a qué repositorios puede acceder y qué información confidencial contienen dichos repositorios.
Eso convierte a Shadow AI de un problema de gestión de aplicaciones en un problema de seguridad de datos.
Descubrimiento de IA en la sombra frente a gobernanza del acceso a la IA en la sombra
Las organizaciones necesitan ambas capacidades, pero estas resuelven diferentes partes del problema.
Por qué bloquear la IA en la sombra no es suficiente
Las organizaciones pueden prohibir una aplicación de IA y aun así tener un problema de acceso a la IA.
Aparecen nuevas herramientas. Los empleados adoptan nuevos servicios. Los proveedores de SaaS existentes añaden funciones de IA. Las aplicaciones aprobadas incorporan copilotos. Los equipos de desarrollo crean agentes internamente.
Un modelo binario de aprobado versus no aprobado también trata dos situaciones muy diferentes como si conllevaran el mismo riesgo.
Considerar:
- Una herramienta de IA no aprobada que no tiene conexión con los datos de la empresa.
- Un agente de IA aprobado con amplio acceso a la información financiera y de los clientes.
La primera plantea un problema de gobernanza.
La segunda opción podría generar una exposición de datos mucho mayor.
Por lo tanto, los equipos de seguridad deben evaluar la IA en función de lo que realmente puede alcanzar y hacer, y no simplemente de si alguien la incluyó en una lista de aplicaciones aprobadas.
Cómo reducir el riesgo de acceso a la IA en la sombra
Un programa práctico conecta el descubrimiento, la identidad, el acceso, los datos, la actividad y la corrección de problemas relacionados con la IA.
1. Encontrar IA en toda la empresa
Mantener un inventario de aplicaciones, agentes, copilotos, asistentes, modelos e integraciones de IA.
Incluir la IA autorizada y la no autorizada.
Para cada sistema, identifique su propósito comercial y el responsable correspondiente siempre que sea posible.
2. Identificar las identidades detrás de la IA
Determinar cómo se autentica y obtiene acceso cada sistema de IA.
Buscar:
- Usuarios
- Grupos
- Concesiones OAuth
- Aplicaciones
- API
- Cuentas de servicio
- Identidades de las máquinas
- Roles en la nube
- Permisos delegados
Un inventario de IA sin contexto de identidad puede pasar por alto cómo la herramienta accede realmente a los recursos de la empresa.
3. Mapear permisos de IA y rutas de acceso
Determinar qué puede hacer el sistema de IA y de dónde provienen esos permisos.
No se limite a los permisos directos.
Rastrea el acceso heredado e indirecto a través de aplicaciones, API, cuentas de servicio, grupos, roles y otras identidades.
Guía de BigID para permisos de IA Explica cómo estas relaciones pueden ampliar el acceso efectivo de un sistema de IA.
4. Conectar el acceso de la IA a los datos confidenciales
Es en este punto donde un mapa de accesos resulta útil para la toma de decisiones en materia de riesgos.
Determinar si la IA puede alcanzar:
- Información personal
- Registros de clientes
- Información del empleado
- Datos financieros
- Información de salud
- Credenciales y secretos
- Código fuente
- Propiedad intelectual
- Contratos
- Otra información regulada o crítica para el negocio
Descubrimiento y clasificación de datos Proporciona a los equipos de seguridad el contexto necesario para comprender qué hay detrás de un permiso de IA.
5. Comparar el acceso con el propósito empresarial.
Pregúntese si la IA realmente necesita el acceso que tiene.
Un asistente de reuniones puede necesitar acceso al calendario. Probablemente no necesite acceso ilimitado a todos los archivos a los que pueda acceder un ejecutivo.
Un asistente de codificación puede necesitar acceso a un repositorio específico. No necesariamente necesita acceder a todos los repositorios disponibles para el desarrollador que lo conectó.
Un agente de atención al cliente podría necesitar recuperar el registro de un cliente individual. Es posible que no necesite permisos de exportación masiva.
El propósito proporciona la base para menor privilegio.
6. Priorizar el acceso a la IA que genera un riesgo real.
Una lista de todos los permisos de IA puede convertirse rápidamente en otro problema de seguridad pendiente.
Priorice los hallazgos utilizando el contexto, como por ejemplo:
- Sensibilidad de los datos
- Gravedad del permiso
- Ruta de acceso
- Actividad
- Propiedad
- Exposición
- Propósito comercial
- Impacto potencial
Esto ayuda a los equipos a distinguir un permiso de lectura no utilizado para contenido de bajo riesgo de una integración de IA activa que puede exportar registros confidenciales de clientes.
7. Reduzca el acceso excesivo y supervise los cambios.
El acceso a la IA no permanece estático.
Los empleados conectan nuevas aplicaciones. Los proveedores introducen nuevas capacidades de IA. Los permisos cambian. Los datos se transfieren. Los agentes obtienen herramientas. Las cuentas de servicio acumulan derechos.
Los equipos deben identificar y abordar continuamente:
- Permisos innecesarios para la IA
- Acceso excesivo a datos confidenciales
- Integraciones de IA obsoletas
- Agentes huérfanos
- Propiedad desconocida
- Nuevas vías de acceso
- Cambios en la exposición de datos sensibles
La monitorización continua transforma la gobernanza de la IA en la sombra, pasando de ser un inventario periódico a un proceso continuo de gestión de riesgos.
Reducir el acceso excesivo a la IA
Identifique los casos en los que el acceso a la IA excede las necesidades del negocio, vincule los permisos con datos confidenciales y centre la remediación en la exposición más importante.
Qué preguntas deberían hacerse los responsables de la toma de decisiones sobre la IA en la sombra
Los ejecutivos no necesitan una lista de todos los ámbitos de OAuth ni de los permisos de API.
Necesitan tener la certeza de que los equipos pueden vincular la adopción de la IA con el riesgo empresarial.
Verificación de preparación para la IA en la sombra
¿Puede su equipo responder a estas preguntas hoy?
✓ ¿Qué aplicaciones y agentes de IA operan en toda la organización?
✓ ¿Cuáles pueden acceder a los sistemas o datos de la empresa?
✓ ¿Qué identidades y credenciales proporcionan ese acceso?
✓ ¿A qué datos sensibles puede acceder cada sistema de IA?
✓ ¿Puede la IA acceder a los datos indirectamente a través de aplicaciones o API?
✓ ¿Qué sistemas de IA tienen acceso excesivo?
✓ ¿Quién es el propietario de cada integración de IA?
✓ ¿El acceso se ajusta al propósito previsto del sistema de IA?
✓ ¿Qué acceso a la IA genera la mayor exposición empresarial?
✓ ¿Podemos detectar cuándo cambia el acceso a la IA?
La IA en la sombra se está convirtiendo en un problema de acceso a los datos.
La adopción de la IA cambia rápidamente porque las organizaciones ya no la introducen a través de un modelo de implementación centralizado.
La IA llega a través de herramientas independientes, aplicaciones SaaS existentes, copilotos, API, plataformas de desarrollo, funciones integradas y agentes autónomos.
Eso hace que la detección de aplicaciones sea necesaria, pero insuficiente.
Las organizaciones necesitan conectar tres preguntas:
¿Qué IA existe?
¿A qué puede acceder?
¿Qué datos expone ese acceso?
Esa conexión ofrece a los equipos de seguridad y gobernanza una forma mucho más clara de distinguir la adopción de la IA del riesgo que conlleva.
Cómo BigID ayuda a regular el acceso a la IA en la sombra
BigID conecta el descubrimiento mediante IA con los datos y el contexto de acceso necesarios para comprender la exposición.
En lugar de tratar una aplicación de IA como un activo aislado, BigID ayuda a los equipos a comprender las relaciones entre los sistemas de IA, las identidades, los permisos, las aplicaciones, las API, la actividad, la propiedad y los datos empresariales confidenciales.
Las organizaciones pueden utilizar BigID para:
- Descubre la IA: Identificar sistemas, aplicaciones, agentes, copilotos y otros usos de la IA en toda la empresa.
- Comprender el acceso a la IA: Mapea las identidades, los permisos, las aplicaciones, las API, las cuentas de servicio y las identidades de las máquinas involucradas en el acceso a la IA.
- Conectar el acceso a datos confidenciales: Identificar la información regulada, confidencial, de propiedad exclusiva y de vital importancia para el negocio a la que puede acceder la IA.
- Encontrar acceso excesivo: Identificar el acceso a la IA que exceda las necesidades comerciales legítimas o que genere una exposición innecesaria.
- Agregar contexto de propiedad y actividad: Es importante comprender quién posee el acceso a la IA y si los permisos siguen siendo relevantes y activos.
- Priorizar el riesgo: Los equipos de seguridad deben centrarse en el acceso a la IA que expone los datos más sensibles o críticos.
- Reduzca la exposición: Acceso del tamaño adecuado, asignar remediación, hacer cumplir las políticas y supervisar los cambios a lo largo del tiempo.
Esto conecta la gobernanza de IA en la sombra con Gobernanza del acceso a la IA y seguridad de los datos.
Encontrar la IA en la sombra te indica dónde buscar. Entender cómo accede a ella te indica dónde actuar.
Vea la gobernanza de la IA en acción.
Descubra cómo BigID ayuda a las organizaciones a descubrir los datos que impulsan la IA, identificar riesgos y aplicar controles de gobernanza a lo largo del ciclo de vida de la IA.
Preguntas frecuentes sobre Shadow AI Access
¿Qué es el acceso a la IA en la sombra?
El acceso no autorizado a la IA se produce cuando las herramientas, agentes, aplicaciones o integraciones de IA obtienen acceso a sistemas o datos empresariales fuera de los procesos de IA aprobados o totalmente controlados, incluso a través de permisos heredados y delegados.
¿Cómo puede la IA oculta acceder a datos confidenciales?
Shadow AI puede acceder a datos confidenciales a través de usuarios, aplicaciones, permisos OAuth, API, cuentas de servicio, identidades de máquinas, roles en la nube, grupos y otras integraciones. La herramienta de IA puede heredar el acceso ya existente en lugar de recibir acceso directo a los datos.
¿Cuál es la diferencia entre IA en la sombra y acceso a IA en la sombra?
La IA en la sombra describe la tecnología de IA utilizada fuera de los procesos establecidos de aprobación o gobernanza organizacional. El acceso a la IA en la sombra se centra en los sistemas empresariales, los permisos, las identidades y los datos confidenciales a los que pueden acceder dichos sistemas de IA.
¿Por qué los permisos heredados representan un riesgo para la IA?
Los permisos heredados pueden otorgar a un sistema de IA acceso más allá de su propósito previsto. Si el usuario, la aplicación, la API o la cuenta de servicio que respalda la IA ya tiene un acceso excesivo, conectar la IA puede ampliar esa exposición.
¿Puede la IA aprobada generar un acceso excesivo?
Sí. La aprobación de una aplicación de IA no garantiza que todos los permisos o conexiones de datos sean apropiados. Una IA aprobada aún puede recibir permisos excesivos o acceder a datos confidenciales que no requiere para su propósito comercial.
¿Basta con bloquear la IA en la sombra?
No. Bloquear las herramientas no autorizadas conocidas puede reducir algunos riesgos, pero las organizaciones también necesitan controlar el acceso a la IA aprobada, las funciones de IA integradas, los agentes desarrollados internamente, las API y otras integraciones de IA.
¿Cómo se aplica el principio de mínimo privilegio a la IA en la sombra?
El principio de mínimo privilegio limita los sistemas de IA a los permisos, aplicaciones, herramientas y datos necesarios para su propósito previsto. Las organizaciones necesitan información sobre la identidad y el contexto de los datos para determinar cuándo el acceso a la IA excede dicho propósito.
¿Cómo ayuda BigID a combatir el acceso oculto a la IA?
BigID conecta los sistemas de IA con identidades, permisos, rutas de acceso, propiedad, actividad y datos confidenciales para ayudar a los equipos a identificar el acceso excesivo a la IA, priorizar la exposición, reducir los permisos innecesarios y supervisar continuamente los cambios.
Autor
