Выбор ответа Middle Линейные модели обновлено

Зачем Elastic Net

Вопрос

Когда Elastic Net (L1 + L2) лучше чистого lasso?

Попробуйте сами

Выберите вариант, и откроется разбор.

Показать ответ и разбор

Коротко

Правильный ответ: Когда есть группы коррелированных признаков: lasso оставит из группы один случайный, Elastic Net группу. Lasso неустойчив на коррелированных признаках: какой из них останется, зависит от шума.

Варианты ответа

  1. Когда признаков меньше, чем объектов, и они независимы: тогда L2-часть убирает лишнюю разреженность решения lasso
  2. Когда есть группы коррелированных признаков: lasso оставит из группы один случайный, Elastic Net группуправильный ответ
  3. Когда нужна максимальная разреженность: L2-часть дополнительно добивает малые веса до точного нуля
  4. Никогда: Elastic Net хуже обоих методов, это компромисс без преимуществ с лишним гиперпараметром

Разбор

Lasso неустойчив на коррелированных признаках: какой из них останется, зависит от шума. L2-часть делит вес между похожими признаками и стабилизирует решение, L1-часть по-прежнему отбирает признаки. Кроме того, lasso выбирает не больше n признаков при n объектах, а Elastic Net нет.

  • В простом случае с независимыми признаками все варианты работают нормально.
  • Максимальную разреженность даёт чистый lasso.
  • Преимущества есть, они перечислены выше.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.