Los agentes de IA rara vez actúan solos. Un usuario le pide a un agente que prepare la renovación de un cliente. El agente consulta un CRM, recupera los registros de soporte, llama a otro agente para analizar…
La seguridad de identidad solía centrarse principalmente en las personas. Los empleados iniciaban sesión en las aplicaciones. Los administradores recibían privilegios elevados. Los contratistas entraban y salían. Los equipos de identidad gestionaban las cuentas según roles, grupos, etc.
La generación aumentada por recuperación tradicional plantea una pregunta relativamente predecible: ¿Qué información debemos recuperar para esta solicitud? La generación aumentada por recuperación con agentes cambia la pregunta. Un agente de IA puede decidir si…
La generación aumentada por recuperación de información le otorga a la IA algo que los modelos básicos no poseen por sí solos: acceso directo al conocimiento empresarial. Ese es su valor. También es su problema de seguridad.
Los sistemas de IA son cada vez más útiles porque pueden acceder a más información. Pueden buscar documentos empresariales, recuperar datos mediante RAG, navegar por sitios web, interactuar con aplicaciones SaaS, llamar a API, etc.
La evaluación de riesgos de la IA ha cambiado. Las organizaciones ya no evalúan únicamente los modelos de aprendizaje automático creados y gestionados por equipos de ciencia de datos. La IA empresarial ahora incluye aplicaciones de IA generativa…
El riesgo de la IA ha cambiado. Las organizaciones ya no gestionan únicamente modelos de aprendizaje automático creados y controlados por equipos de ciencia de datos. Están implementando aplicaciones de IA generativa, copilotos, recuperación aumentada…
Todas las organizaciones quieren preparar sus datos para la IA. ¿Pero prepararlos para qué? Un asistente de conocimiento empresarial necesita datos diferentes a los de un modelo de detección de fraude. Un servicio de atención al cliente…
La seguridad de la IA comienza con una pregunta fundamental: ¿A qué datos confidenciales pueden acceder sus sistemas de IA y qué sucede con esos datos cuando la IA los utiliza? Esa pregunta ha…
Un agente de IA solicita acceso a una base de datos de clientes. Antes de que el sistema le permita recuperar información, se deben responder dos preguntas de seguridad diferentes: ¿Es realmente la IA...?