IA de alto riesgo bajo el Reglamento Europeo de Inteligencia Artificial

Estas directrices forman parte del desarrollo interpretativo del Reglamento Europeo de Inteligencia Artificial y buscan facilitar una aplicación uniforme de la norma tanto por parte de proveedores y entidades usuarias de sistemas de IA como de las autoridades de supervisión.

El documento recuerda que el Reglamento adopta un enfoque basado en el riesgo, reservando la categoría de “sistemas de IA de alto riesgo” para aquellos sistemas que puedan generar riesgos significativos para la salud, la seguridad o los derechos fundamentales.

Dos vías para la clasificación como sistema de alto riesgo

Las directrices distinguen los dos supuestos principales en los que un sistema puede ser considerado de alto riesgo:

• Sistemas de IA integrados como componentes de seguridad de productos regulados por la legislación sectorial europea recogida en el Anexo I del Reglamento.
• Sistemas incluidos dentro de los casos de uso previstos en el Anexo III del Reglamento.

Relevancia de la “finalidad prevista” del sistema

Uno de los aspectos más relevantes del borrador es la importancia atribuida a la “finalidad prevista” del sistema (“intended purpose”). Según las directrices, la evaluación debe tener en cuenta no solo las instrucciones técnicas de uso, sino también:

• Materiales promocionales,
• Documentación comercial,
• Declaraciones públicas,
• Funcionalidades ofrecidas,
• El contexto de utilización previsto por el proveedor.

La Comisión señala expresamente que la mera inclusión de cláusulas genéricas excluyendo usos de alto riesgo podría no ser suficiente cuando, en la práctica, el sistema se presenta o comercializa para contextos susceptibles de encajar en categorías de alto riesgo.

Este criterio resulta especialmente relevante para sistemas de propósito general y modelos de IA de propósito general (GPAI), cuya clasificación podrá depender en gran medida del contexto funcional y comercial en el que se desplieguen.

Impacto en la cadena de valor

El borrador también recuerda que determinados operadores distintos del proveedor - como distribuidores, integradores o terceros - que modifiquen el sistema o alteren su finalidad, pueden asumir obligaciones equivalentes a las del proveedor conforme al artículo 25 del Reglamento.

En particular, ello podría ocurrir cuando:

• Se realicen modificaciones sustanciales sobre el sistema,
• Se comercialice bajo marca propia,
• Se adapte para nuevos usos de alto riesgo.

Calendario de aplicación

Las directrices recogen asimismo la actualización del calendario de aplicación derivada del denominado “AI Omnibus”: las obligaciones asociadas a sistemas de alto riesgo bajo el artículo 6.2 pasarían a ser aplicables desde diciembre de 2027; mientras que las relativas al artículo 6.1 serían aplicables desde agosto de 2028.

La Comisión Europea indica que estas directrices constituyen una primera interpretación práctica sobre la clasificación de sistemas de IA de alto riesgo y prevé futuras actualizaciones, así como nuevas directrices complementarias sobre obligaciones y responsabilidades bajo el Reglamento Europeo de Inteligencia Artificial.

El documento se encuentra actualmente abierto a comentarios de las partes interesadas antes de su adopción definitiva.