Guías AESIA 4.0 Regulación y uso de la IA

Esta guía orienta sobre el proceso para demostrar que un sistema de IA de alto riesgo cumple los requisitos del Reglamento (Art. 43). Explica los procedimientos de evaluación basados en el control interno frente a los que requieren la participación de un organismo notificado, dependiendo del tipo de sistema (ej. biometría) y el uso de normas armonizadas. Detalla los pasos para la declaración UE de conformidad, el marcado CE y la integración con la legislación de armonización de productos existente.

Establece las pautas para implementar el sistema de gestión de calidad (SGC) requerido por el Artículo 17 para proveedores de sistemas de IA de alto riesgo. El SGC debe documentar políticas y procedimientos para garantizar el cumplimiento normativo, gestión de riesgos, control del diseño y desarrollo, gestión de datos y vigilancia poscomercialización. La guía destaca la necesidad de proporcionalidad según el tamaño de la organización (pymes) y permite integrar el SGC con sistemas existentes exigidos por legislación sectorial.

Proporciona el marco para el sistema de gestión de riesgos (Artículo 9), definido como un proceso iterativo continuo durante todo el ciclo de vida del sistema. Se centra en identificar y mitigar riesgos para la salud, la seguridad y los derechos fundamentales. Describe pasos como la definición del apetito al riesgo, análisis del contexto, identificación de amenazas (ej. envenenamiento de datos), evaluación de riesgos y adopción de medidas de tratamiento (eliminación, reducción, información), prestando atención a colectivos vulnerables como menores.

Esta guía detalla las medidas necesarias para garantizar una supervisión humana efectiva en los sistemas de IA de alto riesgo, conforme al artículo 14 del Reglamento. Aborda el diseño de interfaces humano-máquina adecuadas, el establecimiento de modelos de gobernanza y la capacitación de las personas encargadas de la vigilancia. Su objetivo es asegurar que los supervisores puedan interpretar correctamente los resultados, detectar sesgos de automatización (como la confianza excesiva en el sistema) y tengan la capacidad técnica y autoridad para intervenir o detener el sistema si se detectan riesgos para la salud, seguridad o derechos fundamentales.

Esta guía establece las prácticas de gobernanza y gestión de datos requeridas por el artículo 10 del Reglamento para sistemas de IA de alto riesgo. Cubre todo el ciclo de vida de los datos: desde la identificación de requisitos y recopilación, hasta su preparación (etiquetado, limpieza, agregación) y análisis de sesgos. Se enfoca en asegurar que los conjuntos de datos de entrenamiento, validación y prueba sean pertinentes, representativos, completos y libres de errores, garantizando así la calidad del sistema y evitando discriminaciones prohibidas.

Centrada en el artículo 13 del Reglamento, esta guía explica cómo diseñar sistemas de IA que sean interpretables y comprensibles. Detalla la necesidad de proporcionar instrucciones de uso claras, información sobre la identidad del proveedor, y descripciones de las capacidades y limitaciones del sistema. Promueve el uso de técnicas de explicabilidad (como la contrafactualidad) y la adaptación del lenguaje al perfil del usuario (desplegador) para asegurar que se entienda el funcionamiento del sistema y sus resultados.