Actualmente, la mayoría de las organizaciones tienen un problema con el uso aceptable de la IA, incluso si ya cuentan con una política de uso aceptable de la IA.
Los empleados utilizan asistentes virtuales para resumir documentos. Los desarrolladores envían código a los asistentes de IA. Los equipos experimentan con IA generativa para investigación, contenido, análisis y automatización. Las aplicaciones de IA aprobadas se conectan directamente a los repositorios empresariales. Los agentes de IA recuperan datos, invocan herramientas y realizan acciones cada vez con mayor frecuencia a través de identidades y permisos existentes.
Muchas de esas actividades pueden involucrar a usuarios legítimos, sistemas aprobados y acceso válido.
Eso no significa automáticamente que cualquier uso sea apropiado.
El uso aceptable de la IA define cómo las personas, las aplicaciones, los copilotos, los modelos y los agentes pueden utilizar la IA empresarial, los datos, el acceso y la autoridad dentro de los límites aprobados de seguridad, privacidad, gobernanza y negocio.
La cuestión fundamental va más allá de si alguien puede utilizar la IA.
¿Debería esta persona o sistema de IA utilizar estos datos, a través de esta IA, para este propósito y para lograr este resultado?
Esa distinción es importante porque la IA puede convertir el acceso legítimo en un uso inapropiado sin que nadie eluda la autenticación, explote una vulnerabilidad o robe credenciales.
Uso aceptable de la IA: Conclusiones clave
- El acceso autorizado no autoriza cualquier uso de la IA. Una persona o un sistema de IA puede acceder legítimamente a los datos, aunque los utilice de una manera que entre en conflicto con las políticas, el propósito, la privacidad o los requisitos de seguridad.
- La IA aprobada aún puede generar usos inaceptables. La gobernanza de la IA no puede limitarse a la distinción entre aplicaciones autorizadas y no autorizadas.
- El uso aceptable depende del contexto. Un mismo conjunto de datos puede respaldar un flujo de trabajo de IA aprobado y generar riesgos en otro.
- Las políticas necesitan un contexto operativo. Las organizaciones necesitan conectar los sistemas de IA con datos confidenciales, identidades, permisos, propiedad, actividad, propósito y políticas.
- Los agentes suben la apuesta. El uso aceptable debe regir no solo lo que la IA puede recuperar, sino también lo que puede enviar, modificar, ejecutar, aprobar o activar.
- BigID ayuda a conectar el uso de la IA con los datos subyacentes. Las organizaciones pueden identificar sistemas de IA, información confidencial, rutas de acceso, identidades, actividad, políticas y riesgos para que los requisitos de uso aceptable sean más prácticos.
¿Qué es el uso aceptable de la IA?
El uso aceptable de la IA define las formas aprobadas en que los empleados, las aplicaciones, los copilotos, los modelos, los agentes y otros sistemas de IA pueden acceder, procesar, recuperar, generar, compartir, transformar o actuar sobre los datos y sistemas de la empresa.
Un programa de uso aceptable puede especificar qué servicios de IA pueden utilizar los empleados, qué información pueden enviar, a qué sistemas puede acceder la IA, qué fines comerciales puede respaldar la IA, adónde pueden ir los datos generados por la IA y qué acciones requieren autorización adicional.
El concepto se asemeja a las políticas tradicionales de uso aceptable, pero la IA introduce más variables.
Las políticas tradicionales a menudo se centraban en cómo los empleados utilizan los dispositivos, redes, aplicaciones e información de la empresa. La IA añade modelos, avisos, sistemas RAG, agentes, datos de entrenamiento, bases de datos vectoriales, identidades de IA, servicios de IA externos, permisos delegados y acciones autónomas.
Eso crea un problema de gobernanza más amplio.
El uso aceptable de la IA debe regir la relación entre el usuario, la IA, los datos, el propósito y la acción.
Por qué el uso aceptable de la IA es más que una política para empleados.
Muchas organizaciones abordan inicialmente el uso aceptable de la IA como una cuestión de concienciación por parte de los empleados.
No pegue información confidencial en herramientas de IA públicas. No utilice modelos no aprobados. No envíe registros de clientes. No cargue código fuente. No confíe en contenido generado por IA sin revisarlo.
Esas reglas son importantes, pero la IA empresarial ahora va mucho más allá de las indicaciones individuales.
Un copiloto autorizado puede recuperar información directamente de repositorios internos. Un sistema RAG puede conectar un modelo con el conocimiento de la empresa. Una aplicación de IA puede procesar registros confidenciales a través de una API. Un agente puede usar una cuenta de servicio o una identidad delegada para acceder a los datos y activar flujos de trabajo posteriores.
En esos entornos, el usuario nunca podrá pegar manualmente información confidencial en ningún lugar.
La IA puede acceder a ella directamente.
Por lo tanto, el uso aceptable debe regir el acceso a la IA y el comportamiento en ella, no solo el comportamiento de los empleados.
La aprobación de la IA no implica automáticamente la aprobación de su uso.
Las organizaciones distinguen cada vez más entre la IA autorizada y la IA no autorizada. IA en la sombra.
Esa distinción ayuda a las organizaciones a identificar los servicios que operan fuera de los procesos establecidos de seguridad, adquisiciones, privacidad o gobernanza.
Pero la aprobación solo resuelve una parte del problema.
Un sistema de IA aprobado aún puede recibir datos inapropiados. Un copiloto autorizado aún puede heredar un acceso excesivo. Un agente empresarial aún puede tener más autoridad de la que requiere su tarea. Un modelo permitido aún puede admitir un uso que entre en conflicto con el propósito de privacidad, los requisitos de retención o la política interna.
Esto crea un principio importante:
La aprobación de la IA responde a la pregunta de si la organización autoriza el sistema. El uso aceptable responde a la pregunta de si la organización autoriza este uso del sistema, los datos y la autoridad.
La prueba de uso aceptable de la IA
La aprobación es solo una parte de la decisión.
AI
¿Está aprobado el sistema de IA para este uso?
Datos
¿Deberían estos datos ser introducidos o accesibles para la IA?
Identidad
¿Quién o qué ejerce el acceso?
Objetivo
¿El uso se ajusta al propósito comercial aprobado?
Acción
¿Qué puede hacer la IA con los datos posteriormente?
Para que un uso sea aceptable, las cinco preguntas deben tener sentido en conjunto.
Uso aceptable de la IA frente a uso indebido de la IA
El uso aceptable de la IA define los límites aprobados.
El mal uso de la IA se produce cuando una persona o un sistema de IA opera fuera de esos límites.
Ese mal uso puede implicar un servicio de IA no autorizado, pero no necesariamente. Una aplicación de IA autorizada también puede generar mal uso si se le proporcionan datos restringidos, se utiliza con fines no autorizados, se expone información a un público inadecuado o se permite que un agente realice acciones fuera de su ámbito previsto.
Esta distinción cobra especial importancia en el caso de los sistemas autónomos.
Artículo de BigID sobre mal uso de datos en sistemas de IA con agentes Examina una forma específica de uso indebido: los agentes de IA que utilizan datos más allá de su alcance o propósito autorizados.
El uso aceptable de la IA abarca la cuestión más amplia de la gobernanza en relación con los empleados, la IA autorizada, la IA en la sombra, los copilotos, los modelos, las aplicaciones y los agentes.
¿Cómo se manifiesta un uso inaceptable de la IA?
El uso inaceptable de la IA puede adoptar muchas formas, ya que las organizaciones tienen diferentes datos, políticas, sectores y requisitos de riesgo.
Los escenarios más comunes incluyen:
- Enviar código fuente confidencial a un servicio de IA que la organización no ha aprobado para información propietaria.
- Utilizar información personal identificable de clientes en un flujo de trabajo de IA que carece de un propósito comercial aprobado.
- Permitir que un copiloto empresarial recupere archivos confidenciales mediante permisos de usuario excesivos.
- Utilizar datos regulados para entrenar o ajustar un modelo sin la gobernanza adecuada.
- Permitir indicaciones o respuestas contener información sensible que pueda fluir hacia sistemas fuera de los límites aprobados
- Dar a un agente de IA acceso a sistemas o conjuntos de datos más allá de lo que requiere su tarea asignada
- Permitir que un agente envíe, modifique, elimine o publique información sin la aprobación correspondiente.
- Utilizar información empresarial obsoleta, desactualizada o restringida como contexto actual de IA.
- Reutilización de información recopilada para un propósito comercial en un flujo de trabajo de IA no relacionado.
- Permitir que las decisiones o recomendaciones generadas por IA influyan en procesos importantes sin la supervisión necesaria.
El denominador común no es la tecnología.
El denominador común es una falta de correspondencia entre el acceso, el propósito, la política y el resultado.
Por qué la sensibilidad de los datos cambia la decisión de uso aceptable
No todas las interacciones con la IA conllevan el mismo riesgo.
Cuando un empleado envía documentación pública de un producto a un asistente autorizado, la pregunta de seguridad es diferente a la de un empleado que envía información personal identificable (PII) de clientes, credenciales, documentos legales, registros financieros, propiedad intelectual, código fuente o información de salud.
El servicio de IA podría permanecer exactamente igual.
Los datos modifican el riesgo.
Por lo tanto, las organizaciones necesitan saber a qué información puede acceder o recibir la IA antes de decidir si su uso se ajusta a sus políticas.
Descubrimiento y clasificación de datos sensibles Puede proporcionar esa base mediante la identificación de información regulada, personal, confidencial, de propiedad exclusiva, de credenciales, financiera, de salud y otra información de alto valor en todos los entornos empresariales.
La política de uso aceptable cobra mayor sentido cuando se basa en el conocimiento de los datos reales.
La identidad y el acceso siguen siendo importantes.
Una política de uso aceptable no puede compensar el acceso no controlado.
Si un empleado, una aplicación, una cuenta de servicio, una identidad de máquina o un agente de IA puede acceder a información mucho más sensible de la que requiere su propósito legítimo, la organización ya ha ampliado el número de formas en que puede producirse un uso inapropiado de la IA.
Eso convierte el principio de mínimo privilegio en una parte importante del uso aceptable de la IA.
Las organizaciones deben comprender el acceso directo, el acceso de grupo, los permisos heredados, la autoridad delegada, las identidades de las aplicaciones, las cuentas de servicio, las identidades de las máquinas y las rutas de acceso específicas de la IA.
Gobernanza del acceso a la IA Conecta esas identidades y permisos con datos empresariales confidenciales para que los equipos puedan identificar dónde el acceso a la IA excede la necesidad aprobada.
El uso aceptable comienza por definir qué debería suceder. La gobernanza del acceso ayuda a limitar lo que puede suceder.
El propósito es la capa que falta en muchas políticas de IA.
Dos personas pueden usar la misma aplicación de IA aprobada con el mismo conjunto de datos y aun así generar resultados de gobernanza diferentes.
La diferencia puede radicar en el propósito.
Por ejemplo, la información del cliente recopilada para dar soporte a una cuenta puede servir para un flujo de trabajo operativo legítimo. Utilizar esa misma información para crear un modelo de IA no relacionado puede requerir un análisis diferente de las políticas, la privacidad, el consentimiento, el propósito comercial y el riesgo.
Por eso, el uso aceptable de la IA no debería limitarse a una lista binaria de herramientas aprobadas y prohibidas.
Las organizaciones también deben tener en cuenta lo siguiente:
¿Qué puede hacer esta IA con esta categoría de datos, para este propósito comercial?
Esa pregunta vincula directamente la gobernanza de la IA con la privacidad y la gobernanza de los datos.
Uso aceptable de la IA y privacidad
Los programas de privacidad ya reconocen que poseer información personal no otorga autoridad ilimitada para usarla.
La IA hace que esa distinción sea más visible porque los modelos y las aplicaciones pueden reutilizar la información de maneras que difieren significativamente del flujo de trabajo con el que se recopiló originalmente.
Los equipos de privacidad deben comprender qué datos personales ingresan a la IA, por qué la organización los utiliza, si el uso se ajusta a las políticas o los requisitos aplicables, cuánto tiempo los sistemas de IA retienen la información, si los datos se transmiten a terceros y si las personas o los reguladores esperan controles adicionales.
La gobernanza del uso aceptable ayuda a traducir esas preocupaciones en límites prácticos para la IA.
La cuestión de la privacidad no es solo "¿Contiene la IA datos personales?", sino "¿Debería esta IA utilizar estos datos personales de esta manera?".“
La IA en la sombra dificulta la aplicación de la ley sobre el uso aceptable de la tecnología.
Las organizaciones no pueden aplicar controles de uso aceptable significativos a la IA cuya existencia desconocen.
Los empleados pueden adoptar asistentes de IA, extensiones de navegador, funciones SaaS, herramientas para desarrolladores, modelos o API con poca supervisión central. Las unidades de negocio pueden implementar aplicaciones con IA a través de proveedores existentes. Los desarrolladores pueden conectar modelos externos mediante API.
Eso crea un problema de visibilidad antes de que se convierta en un problema de políticas públicas.
Descubrimiento de IA en la sombra Ayuda a las organizaciones a identificar la IA no autorizada o insuficientemente regulada, de modo que los equipos de seguridad y gobernanza puedan comprender hacia dónde puede fluir la información empresarial.
Pero el mero descubrimiento no determina si su uso es apropiado.
La IA en la sombra pregunta qué existe. La gobernanza del uso aceptable pregunta qué debería suceder a continuación.
Los agentes de IA convierten el uso aceptable en acción aceptable.
Inicialmente, la IA generativa centró su atención en las indicaciones y los resultados.
Los agentes agravan el problema porque pueden actuar.
Un agente puede buscar información de la empresa, acceder a aplicaciones, llamar a API, enviar mensajes, actualizar registros, crear archivos, cambiar permisos, ejecutar código, activar flujos de trabajo o invocar a otro agente.
Por lo tanto, la cuestión del uso aceptable se vuelve más amplia:
¿A qué datos puede acceder este agente y qué acciones puede realizar con esa autorización?
Las organizaciones necesitan conocer la identidad del agente, qué permisos hereda, qué herramientas puede invocar, dónde puede ir la información y qué acciones requieren una aprobación más estricta.
Para obtener más información sobre el aspecto de acceso de este problema, consulte Cómo los agentes de IA heredan permisos.
Uso aceptable de la IA versus uso indebido de datos de la IA
Estos conceptos se superponen, pero cumplen funciones diferentes.
Uso aceptable de la IA Define los límites aprobados para las personas y los sistemas de IA.
mal uso de datos de IA Describe situaciones en las que la IA utiliza la información de una manera que entra en conflicto con esos límites, como por ejemplo, utilizar datos autorizados para un propósito inapropiado o fuera de su alcance autorizado.
Para sistemas autónomos, BigID Uso indebido de datos en sistemas de IA agentes El artículo profundiza en cómo los permisos legítimos pueden, aun así, dar lugar a un uso inapropiado de los datos.
La relación es sencilla:
El uso aceptable define el límite. El mal uso lo traspasa.
Por qué una política de uso aceptable de la IA no es suficiente
Una política escrita constituye una base importante.
No puede ver a qué datos confidenciales puede acceder un sistema de IA. No puede identificar por sí mismo permisos excesivos de los agentes. No puede determinar qué modelos no autorizados utilizan los empleados. No puede mostrar si un sistema de IA recupera información regulada o la envía a otro destino.
La brecha entre la política y la práctica crea uno de los problemas más difíciles de gobernanza de la IA.
Las organizaciones necesitan vincular las políticas con:
- inventario de IA
- Descubrimiento y clasificación de datos
- Identidad
- Acceso efectivo
- Objetivo
- Propiedad
- Linaje
- Actividad
- Indicaciones y respuestas
- Herramientas y acciones del agente
- destinos externos
- Remediación
La gobernanza resulta útil cuando la organización puede vincular una declaración de política con los datos y la actividad de IA que gestiona.
Conectar las políticas con la realidad de la IA
Sepa qué IA puede acceder a datos confidenciales y bajo qué autoridad.
Descubra sistemas de IA, conéctelos con datos e identidades confidenciales, comprenda los permisos y los riesgos, y aplique un contexto de gobernanza en toda la IA empresarial.
Cómo crear un programa de uso aceptable de IA
1. Sistemas de IA para inventario
Identificar modelos, copilotos, agentes, aplicaciones habilitadas para IA, API, sistemas RAG, conjuntos de datos, almacenes de vectores y otros servicios de IA aprobados y no aprobados que interactúan con la información empresarial.
2. Descubre los datos que la IA puede alcanzar
Comprenda qué sistemas de IA pueden acceder a información regulada, personal, confidencial, de propiedad exclusiva, credenciales, información financiera, de salud, propiedad intelectual y otra información sensible.
3. Definir el uso aceptable de los datos y su finalidad.
Evite las políticas que solo dividen las herramientas de IA en categorías permitidas y prohibidas.
Defina qué categorías de datos pueden utilizar los sistemas de IA específicos, por qué pueden utilizarlas y qué resultados permite la organización.
4. Mapear las identidades humanas y no humanas
Determinar qué usuarios, grupos, aplicaciones, cuentas de servicio, identidades de máquina y agentes de IA crean rutas de acceso a los datos empresariales.
5. Reducir el acceso excesivo
Elimine los permisos amplios, obsoletos, heredados, innecesarios o de alto riesgo que otorgan a la IA un acceso a datos más sensibles del que requiere su tarea prevista.
6. Gestionar las indicaciones y respuestas
Comprender dónde la información sensible entra en las interacciones con la IA y dónde la IA puede revelar información sensible en sus respuestas.
7. Restringir las acciones del agente
Separe la autoridad de recuperación de las acciones consecuentes, como enviar, escribir, eliminar, ejecutar, publicar, aprobar o cambiar permisos.
8. Monitorear el uso real
Comparar las políticas con la actividad. Determinar si las personas y los sistemas de IA acceden, recuperan, transfieren, comparten, modifican o actúan sobre información confidencial de maneras inesperadas.
9. Crear un proceso de excepción
El uso de la IA cambia rápidamente. Los equipos pueden tener razones legítimas para solicitar nuevos modelos, conjuntos de datos, permisos o propósitos. Proporcione un proceso de revisión controlado en lugar de alentar a los usuarios a eludir las políticas.
10. Vincular las infracciones con acciones.
Un programa de uso aceptable requiere un protocolo de respuesta. Los equipos pueden necesitar restringir el acceso, bloquear un flujo de trabajo, eliminar datos, modificar una política, asignar un responsable, investigar una actividad o derivar un problema a la persona o entidad correspondiente.
Cómo BigID ayuda a operacionalizar el uso aceptable de la IA
El uso aceptable de la IA requiere más que una lista de productos de IA aprobados.
Las organizaciones necesitan comprender los datos, las identidades, los permisos, las políticas, la actividad y los sistemas de IA involucrados en cada uso.
BigID ayuda a conectar esas capas ayudando a las organizaciones:
- Descubre y gobierna la IA: Identificar modelos de IA, agentes, copilotos, conjuntos de datos, indicaciones, RAG, almacenes de vectores, canalizaciones e IA en la sombra, y conectarlos con el contexto empresarial.
- Descubra y clasifique datos confidenciales: Comprender la información regulada, personal, confidencial, de propiedad exclusiva, de credenciales, financiera, de salud y otra información sensible en entornos empresariales.
- Comprender el acceso a la IA: Conectar los sistemas de IA y las identidades con los datos y permisos que respaldan su autoridad.
- Identificar el acceso excesivo: Identificar accesos amplios, heredados, obsoletos, innecesarios y de alto riesgo relacionados con información confidencial.
- Agregar contexto de actividad: Comprenda cómo se accede a los datos confidenciales, cómo se mueven, se comparten, se modifican, se descargan o se eliminan.
- Proteja las interacciones con la IA: Supervise la información confidencial en las solicitudes y respuestas, y conecte las interacciones de riesgo con los flujos de trabajo de políticas y respuesta.
- Impulsar acciones correctivas: Comunicar los resultados a los propietarios, restringir el acceso, aplicar las políticas, eliminar los datos innecesarios y coordinar las medidas correctivas cuando sea necesario.
BigID ayuda a las organizaciones a conectarse:
IA → Identidad → Acceso → Datos sensibles → Propósito → Actividad → Política → Acción
Esto crea una base más sólida para determinar no solo si existe la IA empresarial, sino también si la organización la utiliza dentro de los límites aprobados.
Prueba de preparación para el uso aceptable de la IA
Preparación para el uso aceptable de la IA
¿Puede su organización responder a estas preguntas?
✓ ¿Qué sistemas de IA aprobados y no aprobados interactúan con los datos empresariales?
✓ ¿A qué datos confidenciales puede acceder cada sistema de IA?
✓ ¿Qué empleados, aplicaciones, cuentas de servicio, identidades de máquina y agentes proporcionan ese acceso?
✓ ¿Qué tipos de datos pueden utilizar los equipos con cada sistema de IA?
✓ ¿Qué fines comerciales aprueba la organización?
✓ ¿Qué usos de la IA entran en conflicto con los requisitos de privacidad, seguridad, retención o gobernanza?
✓ ¿Qué agentes pueden enviar, modificar, eliminar, ejecutar, aprobar o publicar?
✓ ¿Adónde puede viajar la información confidencial después de que la IA acceda a ella?
✓ ¿Pueden los equipos identificar el uso de datos confidenciales dentro de las solicitudes y respuestas?
✓ ¿Pueden los equipos distinguir entre la IA aprobada y el uso aceptable de la IA?
✓ ¿Puede la organización tomar medidas cuando el uso de la IA excede las políticas establecidas?
El uso aceptable de la IA va más allá de decir sí o no.
La adopción de la IA seguirá extendiéndose por las aplicaciones empresariales, los flujos de trabajo, los equipos y los procesos de negocio.
Un modelo de gobernanza basado únicamente en herramientas aprobadas y prohibidas tendrá dificultades para mantenerse al día.
El enfoque más duradero conecta el sistema de IA con los datos, la identidad, el acceso, el propósito, las políticas y las acciones que lo rodean.
Esto permite a una organización autorizar un uso valioso de la IA sin tratar cada inicio de sesión válido, aplicación aprobada o conjunto de datos técnicamente disponible como un permiso ilimitado.
El acceso te indica a qué pueden llegar las personas y la IA.
El uso aceptable define qué deben hacer con él.
Conectar los datos y la IA
Convertir el uso aceptable de la IA en control operativo
Descubre cómo BigID conecta los sistemas de IA con datos confidenciales, identidades, accesos, actividades, políticas y medidas correctivas, para que los equipos puedan controlar cómo la IA empresarial utiliza los datos y la autoridad.
Preguntas frecuentes sobre el uso aceptable de la IA
¿Qué se considera un uso aceptable de la IA?
El uso aceptable de la IA define cómo los empleados, las aplicaciones, los copilotos, los modelos, los agentes de IA y otros sistemas pueden acceder, procesar, recuperar, generar, compartir, transformar o actuar sobre los datos empresariales dentro de los límites aprobados de seguridad, privacidad, gobernanza y negocio.
¿Qué es una política de uso aceptable de la IA?
Una política de uso aceptable de la IA define los usos aprobados y prohibidos de la IA, incluyendo qué sistemas de IA pueden usar las personas, qué datos pueden enviar o exponer, qué fines comerciales puede respaldar la IA y qué acciones o flujos de trabajo requieren controles o aprobación adicionales.
¿El uso aceptable de la IA es lo mismo que el uso aprobado de la IA?
No. Una organización puede aprobar un sistema de IA, pero restringiendo los datos, propósitos, identidades o acciones que permite dentro de dicho sistema. La aprobación del sistema no autoriza todos los usos posibles.
¿Cuál es la diferencia entre el uso aceptable de la IA y el mal uso de la IA?
El uso aceptable de la IA define los límites aprobados. El mal uso de la IA se produce cuando una persona o un sistema de IA utiliza datos, acceso, capacidades o autoridad fuera de esos límites aprobados.
¿La IA en la sombra es lo mismo que el uso inaceptable de la IA?
No. La IA en la sombra se refiere a sistemas o usos de IA que carecen de suficiente visibilidad o gobernanza organizacional. La IA en la sombra puede generar un uso inaceptable, pero la IA aprobada también puede infringir los requisitos de uso aceptable.
¿Por qué es importante la sensibilidad de los datos para un uso aceptable de la IA?
El mismo flujo de trabajo de IA puede generar riesgos diferentes según la información involucrada. La información pública, la información de identificación personal (PII), la información de salud protegida (PHI), el código fuente, las credenciales, los registros financieros y la propiedad intelectual requieren consideraciones diferentes en materia de seguridad, privacidad y gobernanza.
¿Cómo afectan los agentes de IA a las políticas de uso aceptable?
Los agentes de IA combinan el acceso a datos con herramientas y autoridad para tomar decisiones. Por lo tanto, las organizaciones necesitan establecer límites de uso aceptables sobre qué datos pueden recuperar los agentes, qué identidades y permisos pueden usar, a qué sistemas pueden acceder y qué acciones pueden realizar.
¿Por qué una política de uso aceptable de la IA por sí sola no es suficiente?
Una política escrita no puede determinar por sí sola qué sistemas de IA existen, a qué datos confidenciales pueden acceder, qué identidades otorgan dicho acceso, cómo las personas y los agentes utilizan los datos, ni si alguna actividad infringe la política. Las organizaciones necesitan visibilidad operativa y controles en torno a los datos y el entorno de IA.
¿Cómo pueden las organizaciones garantizar un uso aceptable de la IA?
Las organizaciones pueden inventariar la IA, descubrir datos confidenciales, mapear las identidades humanas y de la IA, comprender el acceso efectivo, reducir los permisos excesivos, supervisar las notificaciones y la actividad, definir reglas basadas en propósitos, restringir las acciones de los agentes de alto impacto y conectar las infracciones con los flujos de trabajo de remediación.
¿Cómo apoya BigID el uso aceptable de la IA?
BigID ayuda a las organizaciones a descubrir datos confidenciales y relacionados con la IA, conectar sistemas de IA con identidades humanas y no humanas, comprender los permisos y el acceso excesivo, agregar contexto de actividad y solicitudes, aplicar políticas de gobernanza y coordinar la remediación en los entornos de datos e IA de la empresa.
Autor
