Conjunto de métodos matemáticos que abren la "caja negra" de los modelos complejos de machine learning para explicar con exactitud por qué se tomó una decisión sobre un cliente.
Explicación y Contexto Conceptual
A medida que las leyes de privacidad exigen el "derecho a la explicación", los equipos de ciencia de datos no pueden conformarse con redes neuronales opacas que rechacen a un lead o le asignen un precio sin justificación. Técnicas de XAI como SHAP (SHapley Additive exPlanations) y LIME (Local Interpretable Model-agnostic Explanations) descomponen la predicción asignando a cada variable (ingresos, historial de clics, antigüedad) un peso explicativo exacto en lenguaje comprensible tanto para reguladores como para clientes.
Ejemplo en la Práctica
Un e-commerce emplea valores SHAP para detallar a su equipo comercial qué tres factores específicos explican que un cliente corporativo tenga un 85% de probabilidad de churn.