Porcentaje de afirmaciones, datos numéricos o hechos generados por un modelo de IA que suenan plausibles y convincentes pero son completamente falsos o inexistentes.
Explicación y Contexto Conceptual
La Tasa de Alucinación es el principal riesgo reputacional y operativo al que se enfrentan las marcas al automatizar su generación de contenido y servicio al cliente con modelos generativos. Una alucinación ocurre cuando la red neuronal, impulsada por su objetivo probabilístico de generar un flujo de texto fluido y persuasivo, inventa especificaciones de producto, citas bibliográficas, precios inexistentes o declaraciones que la empresa jamás ha hecho.
Las alucinaciones se originan en brechas de conocimiento en el preentrenamiento, sobreajuste del modelo o falta de contexto verificado en el prompt. En el marketing B2B y las fichas técnicas de e-commerce, una alucinación sobre las características de un producto puede provocar demandas por publicidad engañosa y miles de devoluciones costosas.
Para reducir la tasa de alucinación a niveles cercanos al 0%, las empresas implementan arquitecturas RAG (Generación Aumentada por Recuperación), fijan la Temperatura en valores bajos y añaden capas de verificación factual cruzada (Grounding).
Ejemplo en la Práctica
El bot de una aerolínea alucina que los pasajeros pueden llevar 3 maletas gratis en tarifa básica; la empresa debe asumir el costo tras el reclamo de cientos de viajeros.