Microaula em Método CELULA • Prévia Aberta

<p><strong>Circunstância Científica e Operacional:</strong> Com temperatura zero ($T=0$), o modelo opera de forma puramente gananciosa (Greedy Search), escolhendo sempre o token número 1. Com temperaturas mais altas, a distribuição se achata, permitindo variedade estilística, mas aumentando o risco de alucinação.</p>

Célula 05: Estratégias de Decodificação e Amostragem: Temperatura, Top-k, Top-p (Nucleus) e Repetition Penalty

Objetivo de Aprendizagem: Controlar o comportamento criativo ou determinístico do modelo ajustando a Temperatura ($T$), limitando aos $k$ tokens mais prováveis (Top-k) ou retendo a massa cumulativa de probabilidade (Top-p).

1. Contextualização e Fundamentos Operacionais

Contextualização e Fundamentos em A Mecânica da Previsão em LLMs: Tokens e Probabilidade: Com temperatura zero ($T=0$), o modelo opera de forma puramente gananciosa (Greedy Search), escolhendo sempre o token número 1. Com temperaturas mais altas, a distribuição se achata, permitindo variedade estilística, mas aumentando o risco de alucinação. O objetivo estruturante desta célula é: Controlar o comportamento criativo ou determinístico do modelo ajustando a Temperatura ($T$), limitando aos $k$ tokens mais prováveis (Top-k) ou retendo a massa cumulativa de probabilid...