Inspección estadística obligatoria para certificar que los modelos predictivos y de segmentación publicitaria no discriminan por razones de raza, género o edad.
Explicación y Contexto Conceptual
Leyes como la Ley Local 144 de Nueva York para herramientas de contratación o las investigaciones de la FTC y el Departamento de Justicia de EEUU prohíben que los algoritmos de optimización publicitaria excluyan a colectivos protegidos en anuncios de crédito, empleo y vivienda (HEC - Housing, Employment, Credit). Las auditorías de sesgo miden la disparidad en las tasas de selección (Disparate Impact Ratio) y obligan a reentrenar o aplicar capas de mitigación matemática sobre los modelos que penalicen injustamente a minorías.
Ejemplo en la Práctica
Meta implementó su sistema Variance Reduction System (VRS) para auditar y corregir la distribución demográfica de los anuncios de vivienda y cumplir con acuerdos extrajudiciales con el gobierno de EEUU.