Categoría legal bajo la ley europea para algoritmos que impactan decisivamente en el acceso al crédito, empleo, educación o servicios esenciales de las personas.
Explicación y Contexto Conceptual
En el marketing y la analítica comercial, herramientas que clasifican automáticamente a candidatos a un puesto de trabajo, algoritmos de credit scoring que deciden si un cliente puede financiar una compra en un e-commerce, o sistemas de fijación dinámica de precios de seguros basados en perfiles de salud se consideran de "Alto Riesgo". Antes de salir al mercado, exigen una evaluación de conformidad exhaustiva (Marcado CE), sistemas de gestión de calidad de datos para erradicar sesgos y la garantía de que una persona física puede anular cualquier decisión del algoritmo.
Ejemplo en la Práctica
Una plataforma fintech de Buy Now Pay Later (BNPL) somete su modelo de machine learning de aprobación crediticia a una auditoría externa para cumplir con los requisitos de Alto Riesgo del AI Act.