Conjunto de métodos y herramientas que hacen comprensibles y transparentes para los humanos las decisiones y predicciones adoptadas por modelos de aprendizaje profundo complejos.
Explicación y Contexto Conceptual
Explainable AI (XAI o Inteligencia Artificial Explicable) es la disciplina que abre la 'caja negra' de los modelos matemáticos complejos de Machine Learning. Históricamente, un modelo de Deep Learning o Gradient Boosting podía predecir con un 92% de precisión que un cliente corporativo se iba a dar de baja, pero era incapaz de explicar a los directivos de ventas 'por qué' había llegado a esa conclusión.
Utilizando técnicas de explicabilidad matemática como SHAP (Shapley Additive Explanations) y LIME (Local Interpretable Model-agnostic Explanations), la XAI desglosa la contribución exacta de cada variable individual en la predicción final: 'Este cliente tiene un 88% de riesgo de churn principalmente porque redujo sus inicios de sesión un 40% (aporta +35% de riesgo) y no renovó su certificado SSL (+25% de riesgo)'.
Esto empodera a los equipos comerciales para tomar acciones correctivas directas y fundamentadas en lugar de confiar ciegamente en una predicción misteriosa.
Ejemplo en la Práctica
El sistema de scoring comercial de un banco no solo dice "Lead Rechazado", sino que explica con XAI: "Rechazado por ratio deuda/ingreso > 45% y menos de 6 meses de antigüedad laboral".