Método de muestreo probabilístico que restringe la selección de palabras candidatas exclusivamente al subconjunto más probable cuya probabilidad acumulada suma el valor P.
Explicación y Contexto Conceptual
Nucleus Sampling (o muestreo Top-P), introducido en 2019 por Holtzman et al., es una técnica matemática refinada para controlar la diversidad del texto generado por inteligencia artificial, utilizada como complemento o alternativa al parámetro de Temperatura.
En lugar de elegir entre un número fijo de palabras candidatas (como hace Top-K), Top-P se adapta de forma dinámica a cada momento de la oración. Si establecemos Top-P en 0.9, el modelo ordena todas las palabras posibles de mayor a menor probabilidad y 'corta' la lista en el punto exacto donde la suma acumulada de probabilidades alcanza el 90%, descartando el 10% de la 'cola larga' de opciones extrañas o incoherentes.
En contextos donde la siguiente palabra es obvia (por ejemplo: 'La capital de Francia es...'), el núcleo se reduce a una sola opción ('París'); en contextos abiertos ('El eslogan ideal para esta campaña es...'), el núcleo se expande para incluir cientos de adjetivos creativos sin riesgo de desvarío lingüístico.
Ejemplo en la Práctica
Al calibrar un generador de posts de LinkedIn con Top-P = 0.85, se asegura que el vocabulario sea variado y fresco sin caer en tecnicismos incomprensibles.