Выбор ответа Senior Генеративные модели обновлено

Чем VAE отличается от автоэнкодера

Вопрос

Что добавляет вариационный автоэнкодер (VAE) по сравнению с обычным?

Попробуйте сами

Выберите вариант, и откроется разбор.

Показать ответ и разбор

Коротко

Правильный ответ: Кодировщик выдаёт (μ, σ), латент сэмплируется через репараметризацию, KL тянет его к N(0, I). Потеря VAE (отрицательный ELBO): реконструкция плюс KL(q(zx)‖N(0, I)).

Варианты ответа

  1. VAE использует две сети-дискриминатора, которые отдельно проверяют реконструкцию и латентный вектор
  2. Кодировщик выдаёт (μ, σ), латент сэмплируется через репараметризацию, KL тянет его к N(0, I)правильный ответ
  3. VAE не имеет декодера: объекты генерируются прямо из латентного распределения
  4. VAE обучается без функции потерь, только на сэмплировании из приора N(0, I)

Разбор

Потеря VAE (отрицательный ELBO): реконструкция плюс KL(q(z|x)‖N(0, I)). KL делает латентное пространство гладким и заполненным, поэтому случайное z из N(0, I) декодируется в правдоподобный объект. Трюк z = μ + σ·ε позволяет пропустить градиент через сэмплирование. Минус классических VAE: размытые картинки.

  • Дискриминатор есть у GAN.
  • Декодер обязателен.
  • Функция потерь есть, это ELBO.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.