Temperature и top-p при генерации текста: что это
Коротко
Temperature и top-p при генерации текста: температура делит логиты перед softmax: меньше значит увереннее и скучнее, больше значит разнообразнее и рискованнее. Top-p (nucleus) оставляет минимальный набор самых вероятных токенов с суммарной вероятностью p и сэмплирует из него.
Определение
Температура делит логиты перед softmax: меньше значит увереннее и скучнее, больше значит разнообразнее и рискованнее. Top-p (nucleus) оставляет минимальный набор самых вероятных токенов с суммарной вероятностью p и сэмплирует из него.
Вопросы по теме с собеседований
Запомните, а не прочитайте
В тренажёре карточка вернётся, когда начнёт забываться. А билеты по Глубокое обучение проверят, что термин понятен в деле.