Evaluación sistemática de modelos de IA para detectar y corregir discriminaciones sistemáticas o disparidades injustas por motivos de género, raza, edad o nivel socioeconómico.
Explicación y Contexto Conceptual
La Auditoría de Sesgos Algorítmicos es una exigencia legal, ética y reputacional insoslayable para marcas globales que utilizan inteligencia artificial en la segmentación publicitaria, calificación de créditos o contratación de personal. Los modelos de IA no son entidades neutras e impolutas; aprenden patrones de datos históricos humanos, absorbiendo y amplificando los prejuicios históricos de la sociedad.
En publicidad digital, algoritmos mal auditados han demostrado sesgos escandalosos: mostrar anuncios de empleos ejecutivos de alta remuneración desproporcionadamente a hombres, ofrecer límites de crédito menores a mujeres con idéntico historial financiero o asociar sistemáticamente ciertos grupos raciales con riesgo de fraude en tiendas online.
Una auditoría de sesgos analiza las métricas de equidad matemática (Demographic Parity, Equalized Odds) y evalúa los datasets de entrenamiento para des-sesgar las representaciones vectoriales antes de que provoquen crisis de relaciones públicas o multas gubernamentales millonarias.
Ejemplo en la Práctica
Una auditoría de IA en una plataforma inmobiliaria corrige un algoritmo que excluía automáticamente a códigos postales de minorías étnicas en la pauta de condominios prémium.