Ir al contenido

Reglas del agente de IA Están llegando, y comienzan con Acceso

Hasta ahora, la mayor parte de la regulación de la IA se ha centrado en los modelos: cómo se entrenan, qué deben revelar los desarrolladores y qué usos están prohibidos. Esta semana, dos gobiernos abordaron un tema más práctico: qué información puede modificar un agente de IA una vez que se ejecuta dentro de una empresa o en un dispositivo.

En el Reino Unido, se añadió una cláusula al proyecto de ley de ciberseguridad y resiliencia. permitiría a los ministros regular cómo se implementa la IA con capacidad de gestión de agentes. En China, el Ministerio de Industria publicó un Aviso sobre agentes de IA preinstalados en teléfonos, tabletas y dispositivos portátiles. Los dos documentos difieren en alcance y estilo, pero apuntan a lo mismo.

LO ESENCIAL

Regulación de agentes de IA: Conclusiones clave

  • La regulación de la IA está cambiando hacia el acceso de los agentes.
    Los nuevos avances en el Reino Unido y China se centran en a qué información pueden acceder los agentes de IA, cómo funcionan y quién es responsable de sus acciones.
  • El Reino Unido está considerando reforzar la supervisión.
    Las medidas propuestas incluyen la supervisión de los agentes, la notificación de incidentes, la preservación de pruebas y las revisiones posteriores a los incidentes.
  • China está abordando el tema de los permisos de los agentes a nivel de dispositivo.
    Su ministerio ha detallado las expectativas en cuanto a la identidad del agente, el consentimiento de la aplicación, los permisos y la seguridad en los dispositivos de consumo compatibles.
  • Ninguno de los dos proyectos genera obligaciones inmediatas.
    Las medidas del Reino Unido requieren pasos legislativos adicionales, mientras que el aviso de China no especifica una fecha de entrada en vigor.
  • Los inventarios de agentes son un punto de partida práctico.
    Las organizaciones deben identificar a sus agentes de IA, las identidades con las que operan y la información confidencial a la que pueden acceder.
  • El contexto de los datos hace que el acceso a la IA sea controlable.
    BigID ayuda a las organizaciones a conectar datos confidenciales con identidades, permisos y exposición para respaldar la gobernanza del acceso a la IA.

Los agentes convierten la política de IA en un problema de acceso.

Un agente no tiene acceso propio. Actúa con los permisos de quien lo inició, por lo que una regla sobre agentes es, en la práctica, una regla sobre acceso: a qué datos puede acceder un agente, qué hizo con esos datos y si alguien puede demostrarlo posteriormente. Se consultará a los equipos de seguridad y privacidad, y un equipo que nunca haya publicado la lista de sus agentes no podrá responder con rapidez.

El Reino Unido quiere que quede constancia de los casos en que un agente se descontrole.

La cláusula se introdujo en la tercera lectura del proyecto de ley en la Cámara de los Lores. Permitiría al Secretario de Estado modificar el Reglamento del NIS y el gobierno. ficha informativa Afirma que tiene previsto consultar sobre cuatro medidas: requisitos de seguridad, como la supervisión de las acciones de los agentes y la evaluación del riesgo que representan, la notificación a otras organizaciones de un agente afectado, la preservación de pruebas sobre cómo un agente pudo haber causado un incidente y las revisiones posteriores a los incidentes dirigidas por los ministros.

El objetivo son los incidentes en los que los operadores “no pueden supervisar ni controlar adecuadamente a los agentes de IA”. Según The Register, el alcance probable incluye a los operadores de servicios esenciales, los proveedores de servicios gestionados y los proveedores de servicios en la nube, mientras que la ficha informativa indica que el alcance detallado aún está por definirse.

China quiere que los agentes sean identificados y autorizados en el dispositivo.

El aviso del ministerio, fechado el 24 de octubre y publicado el 6 de noviembre, abarca teléfonos, tabletas y dispositivos portátiles que incluyen un agente preinstalado. Los desarrolladores de agentes deben verificar la compatibilidad con cada dispositivo y gestionar los permisos, las comunicaciones, la seguridad de la red y los datos, los derechos de usuario y la ejecución de tareas. Los desarrolladores de aplicaciones deben indicar si los agentes pueden invocar sus aplicaciones, y un agente no puede acceder a una aplicación sin dicho consentimiento. Las actualizaciones inalámbricas de los agentes existentes requieren un plan de actualización y una evaluación de expertos antes de su lanzamiento.

Los agentes también deberán portar un código de identificación único, y el ministerio planea crear un sistema de identificación de agentes de confianza.

Por qué importa el momento oportuno aunque no haya nada en vigor.

Ninguno de los dos documentos crea obligaciones en la actualidad. Las medidas del Reino Unido se implementarían mediante legislación secundaria tras la sanción real, previa consulta y aprobación del Parlamento, y el gobierno aún no ha definido qué se entiende por "pérdida de control". El aviso de China no especifica una fecha de entrada en vigor.

Esa brecha es la oportunidad. Las definiciones aún están abiertas, y las organizaciones que puedan describir cómo gestionan realmente a sus agentes tendrán más que decir en una consulta que aquellas que esperen el texto final. La ICO Solicitud de pruebas sobre la IA con capacidad de agencia y los datos personales. El plazo para presentar solicitudes desde el Reino Unido finaliza el 20 de noviembre. Prevemos que otros organismos reguladores plantearán preguntas similares, ya que se derivan directamente del funcionamiento de los agentes inmobiliarios. Gestionar un inventario es un trabajo lento y poco atractivo, y resulta más sencillo empezar antes de que se establezca una fecha límite.

Por dónde empezar

Comience con una lista de cada agente, copiloto y automatización de flujo de trabajo en uso, incluidos los que los equipos configuraron sin un ticket. Para cada uno, registre la identidad bajo la cual se ejecuta y los datos confidenciales a los que esa identidad puede acceder. Los agentes pueden heredar amplio acceso de la cuenta de empleado o de servicio que las generó, por lo que en esa segunda columna es donde suelen aparecer las sorpresas.

A continuación, limite el acceso de cada agente a lo estrictamente necesario para su tarea. Luego, decida qué registros necesitaría para reconstruir un incidente, siguiendo el principio británico de preservación de pruebas, y dónde se guardarían.

Cómo ayuda BigID

BigID gobernanza del acceso a los datos Conecta identidades, permisos, propiedad, actividad y sensibilidad de los datos, y permite a los equipos controlar a qué pueden acceder los agentes de IA, los copilotos y los flujos de trabajo autónomos. En cuanto a la postura, BigID Descubre modelos y agentes autorizados y no autorizados., los supervisa constantemente a medida que cambian y permite a los equipos ajustar el nivel de acceso que los copilotos y asistentes pueden tener antes de que se muestre la información. En la práctica, esto proporciona una respuesta actualizada a la pregunta de “qué agentes pueden acceder a qué datos confidenciales” y una forma de revocar o restringir el acceso cuando la respuesta resulta incómoda.

Una pregunta para tu próxima revisión.

Si un organismo regulador solicitara mañana la lista de todos los agentes de IA de su empresa y los datos confidenciales a los que cada uno puede acceder, ¿cuánto tiempo tardaría en elaborarla?

Preguntas frecuentes sobre la regulación de agentes de IA

¿Qué es la regulación de los agentes de IA?

La regulación de los agentes de IA se refiere a las normas y la supervisión que rigen el funcionamiento, el acceso a la información y la ejecución de acciones de los sistemas de IA autónomos. Las propuestas emergentes abordan cada vez más la identidad de los agentes, los permisos, la monitorización, la rendición de cuentas y la protección de datos confidenciales.

¿Cuáles son las nuevas regulaciones sobre agentes de IA en el Reino Unido y China?

El Reino Unido ha propuesto medidas en su proyecto de ley de Ciberseguridad y Resiliencia que podrían introducir requisitos para la monitorización de agentes de IA, la notificación de incidentes, la preservación de pruebas y las revisiones posteriores a los incidentes. El Ministerio de Industria de China ha publicado un aviso sobre la identidad, los permisos, el consentimiento de las aplicaciones y la seguridad de los agentes de IA preinstalados en dispositivos móviles. Ninguno de estos avances establece obligaciones inmediatas como las descritas en este artículo.

¿Cómo pueden las organizaciones controlar el acceso de los agentes de IA a los datos confidenciales?

Las organizaciones deben inventariar los agentes de IA, identificar la cuenta de usuario o de servicio con la que opera cada uno, clasificar la información confidencial a la que pueden acceder dichas identidades y aplicar permisos de mínimo privilegio. La monitorización continua, las revisiones de acceso y las restricciones adecuadas a las acciones de los agentes ayudan a reducir la exposición no autorizada.

¿Por qué es importante la identidad del agente de IA para la seguridad y el cumplimiento normativo?

La identificación de agentes de IA ayuda a las organizaciones a determinar qué agente realizó una acción, bajo qué autoridad operaba y a qué información podía acceder. La vinculación de la identidad del agente con los permisos, la confidencialidad de los datos y los registros de actividad facilita la rendición de cuentas, la investigación de incidentes y la gobernanza del acceso.

¿Cómo ayuda BigID a las organizaciones a gestionar el acceso de los agentes de IA?

BigID ayuda a las organizaciones a descubrir datos confidenciales, comprender las relaciones de identidad y permisos, e identificar el acceso excesivo o inapropiado en los entornos compatibles. Su gobernanza de acceso a los datos, Gestión de la seguridad de los datos (DSPM) y Seguridad y gobernanza de la IA Estas capacidades ayudan a los equipos a evaluar qué agentes y copilotos pueden acceder a información confidencial, priorizar la exposición y respaldar las revisiones de acceso y la corrección de problemas.

INVESTIGACIÓN Y ORIENTACIÓN

Fuentes y descargo de responsabilidad editorial

Este artículo hace referencia a publicaciones e informes gubernamentales sobre la supervisión de los agentes de IA emergentes en el Reino Unido y China.

AVISO LEGAL EDITORIAL

Este artículo ofrece información educativa general y no constituye asesoramiento legal ni normativo. Las medidas del Reino Unido que se analizan son propuestas y están sujetas a procesos legislativos y de consulta adicionales. El aviso del ministerio chino no especifica una fecha de entrada en vigor. Los requisitos normativos, los plazos de implementación y las expectativas de cumplimiento pueden cambiar. Las organizaciones deben consultar las publicaciones oficiales del gobierno y a un asesor legal cualificado al evaluar las obligaciones aplicables.

Contenido

La gobernanza del acceso a los datos reinventada para la era de la IA.

Descargue el informe técnico para descubrir qué requiere realmente un DAG integrado en la era de la IA y cómo lograrlo.

Descargue el informe técnico sobre gobernanza de la IA.