Classifier-free guidance: что это
Коротко
Classifier-free guidance: модель учат и с условием (текстом), и без него (условие случайно выкидывают). На генерации предсказания смешивают: ε = εuncond + w·(εcond - εuncond). w 1 усиливает соответствие промпту ценой разнообразия.
Определение
Модель учат и с условием (текстом), и без него (условие случайно выкидывают). На генерации предсказания смешивают: ε = ε_uncond + w·(ε_cond - ε_uncond). w > 1 усиливает соответствие промпту ценой разнообразия.
Из урока «Генеративные модели кратко за 6 минут»
Текстовое условие подаётся через cross-attention; classifier-free guidance усиливает соответствие промпту.
Читать урок целикомВопросы по теме с собеседований
Запомните, а не прочитайте
В тренажёре карточка вернётся, когда начнёт забываться. А билеты по Глубокое обучение проверят, что термин понятен в деле.