Гиперпараметры бустинга
Вопрос
Какие гиперпараметры градиентного бустинга главные?
Попробуйте сами
Ответьте про себя или вслух, потом откройте ответ и сверьтесь.
Показать ответ и разбор
Коротко
Ответ
Число деревьев (через early stopping), learning rate, глубина или число листьев, минимальное число объектов в листе, subsample по строкам и колонкам, L2-регуляризация листьев. Обычно фиксируют lr, подбирают глубину и регуляризацию, число деревьев по валидации.
Разбор
Число деревьев (через early stopping), learning rate, глубина или число листьев, минимальное число объектов в листе, subsample по строкам и колонкам, L2-регуляризация листьев. Обычно фиксируют lr, подбирают глубину и регуляризацию, число деревьев по валидации.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.