Выбор ответа Junior Деревья и ансамбли спрашивают часто обновлено
Что снижает бэггинг
Вопрос
Бэггинг обучает много моделей на бутстреп-выборках и усредняет. Что он в первую очередь снижает?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Variance (разброс): ошибки отдельных деревьев частично гасятся. Усреднение слабо коррелированных моделей уменьшает дисперсию, а смещение остаётся примерно как у одной модели.
Варианты ответа
- Variance (разброс): ошибки отдельных деревьев частично гасятсяправильный ответ
- Bias: среднее неглубоких моделей сложнее каждой из них по отдельности
- Время обучения: каждое дерево учится на меньшей подвыборке данных
- Необходимость в валидации: OOB-оценка полностью заменяет отложенную выборку
Разбор
Усреднение слабо коррелированных моделей уменьшает дисперсию, а смещение остаётся примерно как у одной модели. Поэтому бэггинг применяют к глубоким деревьям с низким bias и высоким variance.
- Смещение снижает бустинг, а не бэггинг.
- Моделей много, обучение дороже (хотя параллелится).
- Валидация всё равно нужна, хотя OOB-оценка помогает.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.