Hasta ahora, la mayor parte de la regulación de la IA se ha centrado en los modelos: cómo se entrenan, qué deben revelar los desarrolladores y qué usos están prohibidos. Esta semana, dos gobiernos abordaron un tema más práctico: qué información puede modificar un agente de IA una vez que se ejecuta dentro de una empresa o en un dispositivo.
En el Reino Unido, se añadió una cláusula al proyecto de ley de ciberseguridad y resiliencia. permitiría a los ministros regular cómo se implementa la IA con capacidad de gestión de agentes. En China, el Ministerio de Industria publicó un Aviso sobre agentes de IA preinstalados en teléfonos, tabletas y dispositivos portátiles. Los dos documentos difieren en alcance y estilo, pero apuntan a lo mismo.
Los agentes convierten la política de IA en un problema de acceso.
Un agente no tiene acceso propio. Actúa con los permisos de quien lo inició, por lo que una regla sobre agentes es, en la práctica, una regla sobre acceso: a qué datos puede acceder un agente, qué hizo con esos datos y si alguien puede demostrarlo posteriormente. Se consultará a los equipos de seguridad y privacidad, y un equipo que nunca haya publicado la lista de sus agentes no podrá responder con rapidez.
El Reino Unido quiere que quede constancia de los casos en que un agente se descontrole.
La cláusula se introdujo en la tercera lectura del proyecto de ley en la Cámara de los Lores. Permitiría al Secretario de Estado modificar el Reglamento del NIS y el gobierno. ficha informativa Afirma que tiene previsto consultar sobre cuatro medidas: requisitos de seguridad, como la supervisión de las acciones de los agentes y la evaluación del riesgo que representan, la notificación a otras organizaciones de un agente afectado, la preservación de pruebas sobre cómo un agente pudo haber causado un incidente y las revisiones posteriores a los incidentes dirigidas por los ministros.
El objetivo son los incidentes en los que los operadores “no pueden supervisar ni controlar adecuadamente a los agentes de IA”. Según The Register, el alcance probable incluye a los operadores de servicios esenciales, los proveedores de servicios gestionados y los proveedores de servicios en la nube, mientras que la ficha informativa indica que el alcance detallado aún está por definirse.
China quiere que los agentes sean identificados y autorizados en el dispositivo.
El aviso del ministerio, fechado el 24 de octubre y publicado el 6 de noviembre, abarca teléfonos, tabletas y dispositivos portátiles que incluyen un agente preinstalado. Los desarrolladores de agentes deben verificar la compatibilidad con cada dispositivo y gestionar los permisos, las comunicaciones, la seguridad de la red y los datos, los derechos de usuario y la ejecución de tareas. Los desarrolladores de aplicaciones deben indicar si los agentes pueden invocar sus aplicaciones, y un agente no puede acceder a una aplicación sin dicho consentimiento. Las actualizaciones inalámbricas de los agentes existentes requieren un plan de actualización y una evaluación de expertos antes de su lanzamiento.
Los agentes también deberán portar un código de identificación único, y el ministerio planea crear un sistema de identificación de agentes de confianza.
Por qué importa el momento oportuno aunque no haya nada en vigor.
Ninguno de los dos documentos crea obligaciones en la actualidad. Las medidas del Reino Unido se implementarían mediante legislación secundaria tras la sanción real, previa consulta y aprobación del Parlamento, y el gobierno aún no ha definido qué se entiende por "pérdida de control". El aviso de China no especifica una fecha de entrada en vigor.
Esa brecha es la oportunidad. Las definiciones aún están abiertas, y las organizaciones que puedan describir cómo gestionan realmente a sus agentes tendrán más que decir en una consulta que aquellas que esperen el texto final. La ICO Solicitud de pruebas sobre la IA con capacidad de agencia y los datos personales. El plazo para presentar solicitudes desde el Reino Unido finaliza el 20 de noviembre. Prevemos que otros organismos reguladores plantearán preguntas similares, ya que se derivan directamente del funcionamiento de los agentes inmobiliarios. Gestionar un inventario es un trabajo lento y poco atractivo, y resulta más sencillo empezar antes de que se establezca una fecha límite.
Por dónde empezar
Comience con una lista de cada agente, copiloto y automatización de flujo de trabajo en uso, incluidos los que los equipos configuraron sin un ticket. Para cada uno, registre la identidad bajo la cual se ejecuta y los datos confidenciales a los que esa identidad puede acceder. Los agentes pueden heredar amplio acceso de la cuenta de empleado o de servicio que las generó, por lo que en esa segunda columna es donde suelen aparecer las sorpresas.
A continuación, limite el acceso de cada agente a lo estrictamente necesario para su tarea. Luego, decida qué registros necesitaría para reconstruir un incidente, siguiendo el principio británico de preservación de pruebas, y dónde se guardarían.
Cómo ayuda BigID
BigID gobernanza del acceso a los datos Conecta identidades, permisos, propiedad, actividad y sensibilidad de los datos, y permite a los equipos controlar a qué pueden acceder los agentes de IA, los copilotos y los flujos de trabajo autónomos. En cuanto a la postura, BigID Descubre modelos y agentes autorizados y no autorizados., los supervisa constantemente a medida que cambian y permite a los equipos ajustar el nivel de acceso que los copilotos y asistentes pueden tener antes de que se muestre la información. En la práctica, esto proporciona una respuesta actualizada a la pregunta de “qué agentes pueden acceder a qué datos confidenciales” y una forma de revocar o restringir el acceso cuando la respuesta resulta incómoda.
Una pregunta para tu próxima revisión.
Si un organismo regulador solicitara mañana la lista de todos los agentes de IA de su empresa y los datos confidenciales a los que cada uno puede acceder, ¿cuánto tiempo tardaría en elaborarla?
Preguntas frecuentes sobre la regulación de agentes de IA
¿Qué es la regulación de los agentes de IA?
La regulación de los agentes de IA se refiere a las normas y la supervisión que rigen el funcionamiento, el acceso a la información y la ejecución de acciones de los sistemas de IA autónomos. Las propuestas emergentes abordan cada vez más la identidad de los agentes, los permisos, la monitorización, la rendición de cuentas y la protección de datos confidenciales.
¿Cuáles son las nuevas regulaciones sobre agentes de IA en el Reino Unido y China?
El Reino Unido ha propuesto medidas en su proyecto de ley de Ciberseguridad y Resiliencia que podrían introducir requisitos para la monitorización de agentes de IA, la notificación de incidentes, la preservación de pruebas y las revisiones posteriores a los incidentes. El Ministerio de Industria de China ha publicado un aviso sobre la identidad, los permisos, el consentimiento de las aplicaciones y la seguridad de los agentes de IA preinstalados en dispositivos móviles. Ninguno de estos avances establece obligaciones inmediatas como las descritas en este artículo.
¿Cómo pueden las organizaciones controlar el acceso de los agentes de IA a los datos confidenciales?
Las organizaciones deben inventariar los agentes de IA, identificar la cuenta de usuario o de servicio con la que opera cada uno, clasificar la información confidencial a la que pueden acceder dichas identidades y aplicar permisos de mínimo privilegio. La monitorización continua, las revisiones de acceso y las restricciones adecuadas a las acciones de los agentes ayudan a reducir la exposición no autorizada.
¿Por qué es importante la identidad del agente de IA para la seguridad y el cumplimiento normativo?
La identificación de agentes de IA ayuda a las organizaciones a determinar qué agente realizó una acción, bajo qué autoridad operaba y a qué información podía acceder. La vinculación de la identidad del agente con los permisos, la confidencialidad de los datos y los registros de actividad facilita la rendición de cuentas, la investigación de incidentes y la gobernanza del acceso.
¿Cómo ayuda BigID a las organizaciones a gestionar el acceso de los agentes de IA?
BigID ayuda a las organizaciones a descubrir datos confidenciales, comprender las relaciones de identidad y permisos, e identificar el acceso excesivo o inapropiado en los entornos compatibles. Su gobernanza de acceso a los datos, Gestión de la seguridad de los datos (DSPM) y Seguridad y gobernanza de la IA Estas capacidades ayudan a los equipos a evaluar qué agentes y copilotos pueden acceder a información confidencial, priorizar la exposición y respaldar las revisiones de acceso y la corrección de problemas.
