Estemos preparados o no, la inteligencia artificial ha conquistado al mundo. La IA ha sido adoptada por el 78% de las empresas globales, lo que representa un aumento pronunciado respecto del 55% en 2023. Su enorme potencial indica que su tasa de adopción seguirá aumentando, lo que requerirá un marco sólido de gestión de riesgos de IA.
Pero en este auge tecnológico subyace una creciente preocupación y necesidad del uso ético de la IA, especialmente porque ya ha demostrado su potencial para sesgo, discriminación y error.
Como resultado de esto y de muchos otros problemas relacionados con la privacidad de los datos, los responsables políticos de todo el mundo están desarrollando nuevas regulaciones y reglas para controlar el desarrollo y el uso de la IA.
Analicemos con más detalle el cumplimiento normativo de la IA y cómo está afectando el panorama empresarial actual.
Cómo definimos el cumplimiento normativo de la IA
En Gobernanza de la IA Como expertos, definimos el cumplimiento normativo de la IA como un conjunto de prácticas que mantienen el uso y la gestión de las tecnologías de IA por parte de una organización en línea con las leyes, regulaciones y políticas aplicables.
Y hablando de confianza, implementar regulaciones de IA también requiere una ciberseguridad sólida y gestión de riesgos Estrategias para garantizar que los sistemas de IA permanezcan protegidos contra la explotación maliciosa.
Desde la IA en la sombra hasta las deficiencias en el cumplimiento normativo, la mayoría de las organizaciones actúan a ciegas y están expuestas. Analice con más detalle el estado actual de la gobernanza de la IA: sus principales riesgos, la normativa vigente, los puntos débiles específicos de cada sector y más.
Por qué deberíamos preocuparnos por la IA y el cumplimiento normativo
Responsable y uso ético de la IA y el desarrollo son el núcleo de estas políticas de cumplimiento.
El cumplimiento normativo (IA específicamente) está diseñado para ayudar a las empresas a mitigar los riesgos (legales, financieros, etc.) asociados con el uso de modelos de IA, como:
- Violaciones de datos
- Mal uso de datos personales
- Sesgos humanos en los datos de entrenamiento
Los marcos de cumplimiento de la IA protegen a las empresas de posibles sanciones y responsabilidades, que podrían ser considerables. Uno de los ejemplos más famosos de multas relacionadas con la IA es el que involucra Clearview AI, una empresa de tecnología de reconocimiento facial que extrajo imágenes de rostros de personas de todo internet sin su consentimiento para crear una base de datos biométrica, lo que generó importantes riesgos de incumplimiento. La empresa recibió una multa de 22 millones de euros.
Las empresas no solo deben preocuparse por las multas elevadas. Lograr y mantener el cumplimiento normativo protege a las empresas de daños a su reputación, ya que demuestra su compromiso con las prácticas éticas.
Regulaciones de IA existentes
Dentro del panorama regulatorio, la IA puede ser difícil de controlar debido a la enorme velocidad de la innovación. Para los reguladores es difícil crear leyes integrales, lo que también lo dificulta para las empresas.
Ya existen algunas regulaciones específicas para la IA, pero las empresas también deben conocer los requisitos adicionales de cumplimiento normativo, por ejemplo, los que rigen la ciberseguridad y la privacidad de datos. Como ocurre con muchas leyes de protección de datos, el cumplimiento no siempre depende de la ubicación de la empresa, sino del lugar donde opera.
Analicemos con más detalle algunos requisitos de cumplimiento normativo existentes para los sistemas de IA:
En los Estados Unidos
En Ley de Investigación, Innovación y Responsabilidad en Inteligencia Artificial de 2024 (AIRIAA) Proporciona un marco para equilibrar la transparencia, la responsabilidad y la mitigación de riesgos con la innovación en IA.
La primera ley estatal que exigirá la divulgación de datos de entrenamiento para sistemas de IA generativa entrará en vigor en 2026. Ley de Transparencia de Datos de Entrenamiento de IA Generativa de California Promoverá el desarrollo transparente de la IA, creará protecciones específicas respecto de la información personal y brindará a los usuarios una mejor comprensión de cómo funciona la IA.
En Colorado, el Protecciones al consumidor para la ley de IA, que busca proteger a los residentes de la discriminación algorítmica, entrará en vigor en 2026.
En Texas, la Ley de gobernanza responsable de la IA, que supervisará el desarrollo, la implementación y el uso de sistemas de inteligencia artificial en el estado, también se convertirá en ley en 2026.
En términos de leyes de privacidad de datos, la Ley de Privacidad del Consumidor de California (CCPA) y el Ley de Privacidad de Datos del Consumidor de Virginia (VCDA) Hasta hace poco, eran los únicos estados con leyes oficiales que protegían los datos de los consumidores. Al momento de escribir este artículo, hay un total de 20 estados con leyes integrales de privacidad, y se espera que se aprueben más próximamente.
En Europa
En la UE, existen dos regulaciones principales que regulan la IA: La Ley de IA de la UE y el RGPD.
La Ley de IA de la UE
Europa alberga el primer... marco integral de IA Y afecta a los proveedores e implementadores de IA tanto dentro como fuera de la Unión Europea (si sus sistemas de IA se comercializan en el mercado de la UE). Conocida simplemente como la Ley de IA de la UE, esta legislación clasifica la IA en cuatro categorías:
Riesgo inaceptable: Todas las prácticas de IA que entran en esta categoría están prohibidas dentro de la UE.
Actualmente hay ocho aplicaciones de IA prohibidas en Europa, entre ellas:
- Manipulación subliminal para alterar el comportamiento
- Explotación de vulnerabilidades (por ejemplo, edad o discapacidad)
- Puntuación social que conduce a un trato injusto.
- Predicción de la actividad criminal
- Inferir estados emocionales en escuelas o lugares de trabajo.
- Extraer imágenes de personas de Internet o de CCTV para ampliar una base de datos de reconocimiento facial
- Tiempo real identificación biométrica y la categorización de personas en función de atributos sensibles como la raza, la religión o la orientación sexual.
Alto riesgo: Estos son los sistemas más regulados en la UE. La IA de alto riesgo incluye cualquier sistema que pueda tener consecuencias negativas para la salud y la seguridad de las personas, sus derechos y el medio ambiente. Se considera que esta categoría presenta más beneficios que riesgos, por lo que no está prohibida.
Riesgo limitado: Un subconjunto más pequeño de aplicaciones de IA se incluye en esta categoría. Se considera IA de riesgo limitado cualquier sistema que aún presente riesgo de manipulación o engaño. Los implementadores y desarrolladores también deben proporcionar documentación a legisladores y usuarios para mantener un nivel de transparencia y garantizar que estos comprendan los riesgos que conlleva el uso de la IA.
Riesgo mínimo: Todos los demás sistemas de IA entran en esta categoría. Actualmente, estos sistemas no están regulados, pero se recomienda la supervisión humana y la no discriminación.
¿Dónde se ubican ChatGPT (IA generativa) y la IA de propósito general (GPAI)? Históricamente, ha sido difícil clasificar este tipo de inteligencia artificial, ya que su riesgo depende de su caso de uso.
GDPR
El RGPD es un reglamento importante que regula la recopilación, el tratamiento, el almacenamiento y la gestión de datos personales de los residentes europeos. Otorga a los interesados (residentes de la UE) ciertos derechos y controles sobre sus datos, como el derecho a:
- Rechazar y retirar el consentimiento para el tratamiento de datos personales
- Sepa qué información se recopila sobre ellos
- Modificar la información recopilada sobre ellos
- Ser olvidado
- Denegar ciertos procesos automatizados
Las empresas que procesan datos personales de ciudadanos de la UE deben cumplir el RGPD y cumplir ciertos requisitos, como:
Tener una base legal (de la cual el consentimiento es una) para recopilar y procesar datos personales; Recopilar solo la cantidad mínima necesaria para su propósito (limitación de la finalidad); y no conservar los datos por más tiempo del necesario (minimización de datos)
- Ser transparente sobre para qué se utilizarán los datos
- Mantener datos precisos y actualizados
- Permitir a los interesados ejercer sus derechos sin perjuicio
- Documentar sus políticas de mantenimiento de registros para los procesos de auditoría
- En caso de violación de datos, notificar a las autoridades dentro de las 72 horas
- Contratación de delegados de protección de datos (OPD) cuando participen en tratamientos de datos de alto riesgo
- Facilitar la gestión del consentimiento para los usuarios
- Actualización de las políticas de privacidad para incluir los requisitos del RGPD
- Designar un representante en la UE si la empresa está fuera de la UE
Si bien el RGPD no es explícitamente una regulación de IA, el desarrollo y la implementación de Modelos de IA debe cumplir con los requisitos reglamentarios del RGPD en términos de derechos del interesado y minimización de datos.
En Asia
En Porcelana, el Medidas provisionales La Ley para la Gestión de Servicios de Inteligencia Artificial Generativa (2023) impulsa un equilibrio similar al de la AIRIAA de EE. UU. en el sentido de que busca equilibrar la innovación con la transparencia y el uso responsable de los servicios de IA generativa orientados al público.
En Corea del Sur, la Ley Básica de Inteligencia Artificial de Corea del Sur (SKAIA) Busca mitigar los riesgos de la IA y promover prácticas de IA confiables, a la vez que impulsa la innovación y las exportaciones de la industria. La ley consta de tres puntos principales:
- Establece el Comité Nacional de IA y un Instituto de Investigación sobre Seguridad de la IA.
- Promueve el desarrollo de la IA.
- Establece medidas de seguridad respecto al uso de sustancias de alto riesgo y IA generativa.
No importa cuándo lea esto, la gobernanza de la IA seguirá siendo un objetivo en movimiento, por lo que el primer paso para crear políticas internas para sus sistemas de IA debe ser ponerse al día con las regulaciones más actualizadas que se aplican a su organización.
Pasos para cumplir con los requisitos de cumplimiento de la IA
Ahora que hemos explorado algunas de las principales regulaciones de IA y privacidad de datos en todo el mundo, analicemos cómo las empresas pueden fortalecer sus esfuerzos de cumplimiento de IA:
Identificar e inventariar datos existentes y sistemas basados en IA
El primer paso para usar la IA de forma responsable en su organización es realizar una auditoría de IA como parte de su programa de cumplimiento. El objetivo es garantizar que el uso de la IA por parte de la empresa se ajuste a los principios establecidos.
Esto también incluye una auditoría de cómo su organización recopila, administra y cataloga datos no estructurados, o información que carece de formato estándar, como correos electrónicos y documentos.
Comprender qué datos tiene y dónde encontrarlos puede ayudar a mitigar riesgos y evitar violaciones de cumplimiento.
Establecer marcos de gobernanza de la IA
La gobernanza de la IA establece los marcos, procesos y políticas que mantienen los sistemas de IA de una empresa en cumplimiento con las regulaciones de IA.
En una industria conocida por su complejidad y potencial de mal uso ético, la mejor manera de garantizar que los sistemas de IA se desarrollen y utilicen de manera legal, ética y en el mejor interés de las personas es crear un Marco de gobernanza de la IAEsto fomenta la transparencia, lo que a su vez genera confianza en la IA.
Su marco debe describir claramente los valores, principios y políticas de su empresa en torno al desarrollo responsable de IA, y debe proporcionar pautas para gestionar el riesgo, la privacidad de los datos, la responsabilidad, etc.
Invierta en herramientas de seguridad y gobernanza de la IA
¿Por qué complicar la protección y la gobernanza de datos con procesos manuales y flujos de trabajo obsoletos cuando puede invertir en una solución simple que administra los sistemas de IA y los datos en todo su entorno?
La inclusión de la IA en las soluciones de cumplimiento normativo proporciona a su empresa un sistema de gobernanza de datos más dinámico y preciso. Por ejemplo, BigID... Seguridad y gobernanza de la IA La solución gestiona la confianza, el riesgo y la seguridad con funciones y capacidades avanzadas como:
- Descubrimiento automático de datos y activos de IA
- Protección y gobernanza
- Mejora de la higiene de los datos
- Catalogación y curación
- Identificación y remediación de riesgos
- Reducción de riesgos para Microsoft Copilot
Nuestras soluciones ponen la privacidad, la seguridad y el cumplimiento de los datos a la vanguardia de sus iniciativas de cumplimiento normativo de IA.
Descubra cómo proteger y gobernar sus datos de IA con un contexto y control conscientes de los riesgos.
Descargar el resumen de la solución
Autor
