California • Transparencia en IA • IA generativa • Cumplimiento normativo
La Ley de Transparencia de la IA de California establece requisitos diseñados para ayudar a las personas a identificar el contenido generado y modificado por la IA mediante mecanismos de procedencia, divulgación y detección.
BigID ayuda a las organizaciones a descubrir sistemas de IA, comprender los datos confidenciales que hay detrás de la IA, mapear el linaje y la propiedad, gestionar el acceso a la IA, evaluar el riesgo, aplicar políticas y mantener pruebas que respalden programas de cumplimiento de IA más amplios.
Identificar aplicaciones, modelos, agentes, conjuntos de datos, flujos de trabajo e IA en la sombra en entornos empresariales.
Conectar los sistemas de IA con los datos, metadatos, procedencia, propiedad y contexto que hay detrás de su uso.
Aplicar políticas de gobernanza, establecer la titularidad, evaluar el riesgo de la IA y mantener pruebas de cumplimiento.
Resumen de la Ley de Transparencia de la IA de California
La Ley de Transparencia de la IA de California es una ley estatal que busca aumentar la transparencia en torno al contenido generado y modificado por inteligencia artificial. Establece requisitos para que ciertos proveedores de IA generativa cubiertos por la ley brinden soporte para la detección, procedencia y divulgación del contenido, de modo que las personas puedan determinar mejor cuándo se creó o modificó contenido digital que cumpla con los requisitos mediante IA.
Requisitos clave
La Ley de Transparencia de la IA de California se centra en facilitar la identificación y verificación de ciertos contenidos generados por IA, al vincular los medios generados con mecanismos de divulgación y procedencia.
Los proveedores cubiertos deben poner a disposición de los usuarios las herramientas necesarias para que puedan evaluar si el contenido multimedia compatible fue creado o modificado por el sistema de IA generativa del proveedor.
Los proveedores cubiertos deben ofrecer una opción de divulgación visible para el usuario, diseñada para identificar el contenido que cumple los requisitos como generado por IA.
El contenido que cumpla los requisitos debe incluir información de procedencia detectable por máquina, diseñada para permanecer adjunta al contenido siempre que sea técnicamente factible.
Los proveedores cubiertos deben mantener las capacidades requeridas y abordar ciertas modificaciones del sistema con licencia que interfieran con la funcionalidad de divulgación requerida.
El desafío de la transparencia
La procedencia del contenido es solo una parte de la gobernanza de la IA empresarial. Las organizaciones también necesitan visibilidad sobre qué sistemas de IA existen, qué datos utilizan, quién es su propietario, cómo acceden a la información confidencial y dónde fallan los controles de gobernanza.
Los empleados y los equipos pueden implementar aplicaciones de IA más rápidamente de lo que se actualizan los inventarios de gobernanza.
Es posible que los equipos sepan que existe una herramienta de IA sin comprender qué datos regulados o confidenciales puede procesar.
Sin un historial documentado, los equipos pueden tener dificultades para explicar de dónde provienen los datos conectados a la IA, adónde se movieron y cómo se transformaron.
Las políticas por sí solas no pueden demostrar cómo se conectan en la práctica los sistemas de IA, los datos, la propiedad, el riesgo y los controles.
La transparencia de la IA es mayor cuando las organizaciones pueden vincular los resultados generados con los sistemas, los datos, el origen, la propiedad y los controles que los respaldan.
Capacidades de BigID
BigID ayuda a los equipos a comprender los sistemas, los datos, las identidades, el linaje, la propiedad, las políticas y los riesgos que hay detrás de la IA empresarial, de modo que las obligaciones de transparencia puedan estar respaldadas por una gobernanza de la IA más amplia y defendible.
Identificar aplicaciones, modelos, agentes, copilotos, conjuntos de datos, flujos de trabajo e IA en la sombra en entornos empresariales.
Explora la seguridad y la gobernanza de la IA →Descubra datos personales, regulados, confidenciales, de propiedad exclusiva y de vital importancia para el negocio, conectados a sistemas y flujos de trabajo de IA.
Explorar el descubrimiento y la clasificación →Comprenda de dónde provienen los datos conectados a la IA, cómo se mueven, dónde se transforman y qué sistemas dependen de ellos.
Explorar el linaje de los datos →Conecte los sistemas de IA y las identidades con datos confidenciales, permisos, aplicaciones, API y vías de acceso para reducir la exposición innecesaria.
Explorar la gobernanza del acceso a la IA →Priorice los riesgos utilizando la sensibilidad de los datos, el acceso, la actividad, la propiedad, el linaje, las políticas y el impacto en el negocio.
Explorar la gestión de riesgos de la IA →Establecer inventarios de IA, propiedad, evaluaciones, políticas, registros de control y evidencia de remediación que respalden programas de cumplimiento más amplios.
Explorar la gobernanza de la IA →Preparación para el cumplimiento normativo
Utilice la normativa como un detonante para reforzar los controles generales en torno a la IA empresarial, no solo los resultados en sí mismos.
Mantener un inventario de los sistemas, aplicaciones, proveedores, modelos y servicios de terceros de IA generativa que operan en toda la empresa.
Determinar qué datos sensibles, regulados, de propiedad exclusiva y personales utilizan, generan, recuperan o exponen los sistemas de IA.
Establecer el contexto para saber de dónde provienen los datos conectados a la IA, cómo se mueven y qué sistemas o flujos de trabajo dependen de ellos.
Vincule los sistemas de IA con la propiedad, las políticas, las evaluaciones de riesgos, los controles de acceso y los requisitos organizativos.
Realizar un seguimiento de los cambios a lo largo del tiempo, mantener registros de la actividad de gobernanza y subsanar los riesgos relacionados con la IA cuando se infrinjan las políticas o los controles.
Preguntas frecuentes
Comprenda la Ley de Transparencia de la IA de California, a quién afecta y cómo una gobernanza de la IA más amplia y consciente de los datos puede contribuir a la preparación para el cumplimiento normativo.
La Ley de Transparencia de la IA de California es una ley estatal diseñada para aumentar la transparencia en torno al contenido generado y modificado por IA. Establece requisitos para ciertos proveedores de IA generativa que incluyen herramientas de detección, divulgación de información y datos de procedencia.
La ley define a un proveedor cubierto en función de criterios específicos relacionados con la creación o producción de un sistema de IA generativa de acceso público y umbrales de uso establecidos por ley. Las organizaciones deben evaluar la definición legal vigente y sus posteriores modificaciones al determinar su aplicabilidad.
Los proveedores cubiertos deben admitir capacidades de detección que permitan a los usuarios evaluar si el contenido de imagen, vídeo o audio admitido fue creado o alterado por el sistema de IA generativa del proveedor y proporcionar información disponible sobre la procedencia del sistema.
La procedencia de la IA se refiere a la información que ayuda a establecer el origen o el historial del contenido generado o modificado por IA. En el marco de transparencia de California, los mecanismos de procedencia ayudan a los usuarios a identificar si el contenido que cumple los requisitos fue generado o modificado mediante IA.
La ley establece requisitos de divulgación y procedencia diseñados para que los contenidos multimedia generados por IA que cumplan los requisitos sean identificables. California ha seguido ampliando su marco de transparencia en materia de IA mediante legislación posterior que aborda la información de procedencia legible por máquina y las marcas de agua digitales.
BigID puede ayudar a las organizaciones a descubrir sistemas de IA, identificar datos confidenciales conectados a la IA, mapear el linaje de los datos, comprender las identidades y el acceso a la IA, evaluar el riesgo de la IA, establecer la propiedad, aplicar políticas de gobernanza y mantener evidencia que respalde programas de cumplimiento de IA más amplios.
El rol de BigID abarca la seguridad de la IA, la inteligencia de datos, la gobernanza del acceso, la gestión de riesgos, la gobernanza y el soporte para el cumplimiento normativo. Las organizaciones deben utilizar tecnologías apropiadas de generación de contenido y procedencia para cumplir con los requisitos técnicos específicos de divulgación, al tiempo que utilizan BigID para gestionar los sistemas, los datos, las identidades, el acceso, los riesgos y las evidencias relacionadas con la IA empresarial.
Cumplimiento de la normativa sobre IA en California
BigID ayuda a las organizaciones a descubrir sistemas de IA, comprender los datos y las identidades que los respaldan, mapear su procedencia, gestionar el acceso, evaluar los riesgos, aplicar políticas y mantener pruebas para respaldar la adopción responsable de la IA y los requisitos normativos en constante evolución.
