Ciberataque avanzado que consulta reiteradamente un modelo de IA para reconstruir de forma inversa y extraer los datos personales privados utilizados durante su entrenamiento.
Explicación y Contexto Conceptual
Cuando una empresa entrena un modelo interno con historiales de compra, historiales médicos o correos de clientes, existe el riesgo de que el algoritmo memorice estos datos en lugar de aprender patrones generales (overfitting). Mediante ataques de inversión de modelo o de inferencia de membresía (membership inference), un atacante puede extraer nombres, teléfonos o números de tarjetas de crédito introduciendo prompts especialmente diseñados. Mitigar esta vulnerabilidad exige aplicar privacidad diferencial (DP-SGD) durante el entrenamiento del algoritmo.
Ejemplo en la Práctica
Investigadores de seguridad demostraron que podían extraer correos electrónicos reales de clientes haciendo preguntas diseñadas a un chatbot corporativo entrenado sin filtros de privacidad.