Temperature sampling
Temperature sampling
Определение
Temperature sampling — это техника управления случайностью при генерации текста языковыми моделями. Параметр температуры (temperature) масштабирует логиты перед softmax: низкие значения (0.1–0.3) делают распределение более острым, снижая разнообразие, а высокие (0.8–1.5) — более равномерным, увеличивая креативность. Таким образом, температурный семплинг позволяет балансировать между точностью и разнообразием ответов.