Ataque cibernético o manipulación maliciosa de los datos de entrenamiento de un modelo de IA para degradar su precisión o sesgar sus recomendaciones comerciales.
Explicación y Contexto Conceptual
El Envenenamiento de Datos (Data Poisoning) es una forma insidiosa de ataque cibernético contra la infraestructura de Machine Learning y algoritmos de recomendación publicitaria. En lugar de atacar directamente los servidores con código malicioso, el atacante manipula sutilmente los datos con los que el modelo aprende y optimiza sus decisiones.
En el marketing digital, redes de bots sofisticadas (fraude publicitario avanzado) pueden generar millones de clics o eventos de navegación simulados en sitios web competidores para distorsionar los modelos predictivos del DSP. El algoritmo de la marca atacada asimila estos datos falsos creyendo que son usuarios reales de alto valor, desviando millones de dólares de presupuesto publicitario hacia páginas fraudulentas.
Detectar y neutralizar el envenenamiento de datos exige implementar técnicas de detección de anomalías estadísticas, validación criptográfica de fuentes de datos y algoritmos de aprendizaje federado robusto.
Ejemplo en la Práctica
Un competidor lanza bots que simulan interés en productos de lujo para envenenar el algoritmo de recomendación de un rival y hacer que gaste su pauta en audiencias fantasma.