Выбор ответа Middle Генеративные модели обновлено
Как работает диффузионная модель
Вопрос
Как обучается диффузионная модель (DDPM)?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: К картинке добавляют шум уровня t, сеть учится предсказывать этот шум; генерация идёт обратно. Прямой процесс постепенно зашумляет данные до N(0, I).
Варианты ответа
- Сеть учится отличать настоящие картинки от сгенерированных и постепенно улучшает генератор
- К картинке добавляют шум уровня t, сеть учится предсказывать этот шум; генерация идёт обратноправильный ответ
- Сеть сжимает картинку в вектор и восстанавливает её, а генерация идёт из случайного вектора
- Сеть предсказывает следующий пиксель слева направо, начиная с левого верхнего угла
Разбор
Прямой процесс постепенно зашумляет данные до N(0, I). Сеть (обычно U-Net или трансформер) по зашумлённой картинке и t предсказывает шум, потеря это MSE. Генерация повторяет шаги удаления шума. Условие (текст) подают через cross-attention, а classifier-free guidance усиливает соответствие условию. Латентная диффузия работает в пространстве автоэнкодера, что дешевле.
- Дискриминатор у GAN.
- Реконструкция у автоэнкодера.
- Попиксельная генерация у авторегрессионных моделей.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.