Выбор ответа Senior Деревья и ансамбли обновлено
CatBoost, LightGBM и XGBoost
Вопрос
Что из перечисленного верно описывает отличительную особенность CatBoost?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Симметричные (oblivious) деревья и кодирование категорий упорядоченными target-статистиками. CatBoost строит oblivious-деревья (одно и то же условие на всём уровне), что быстро и устойчиво, и кодирует категории ordered target statistics, считая статистику только по «предыдущим» объектам случайной перестановки, чтобы не было утечки…
Варианты ответа
- Симметричные (oblivious) деревья и кодирование категорий упорядоченными target-статистикамиправильный ответ
- Рост деревьев по листьям (leaf-wise) и GOSS-семплирование объектов с малым градиентом
- Только точный жадный перебор всех порогов без гистограмм, поэтому он точнее, но медленнее
- Отсутствие поддержки GPU: CatBoost обучается только на CPU, зато детерминированно
Разбор
CatBoost строит oblivious-деревья (одно и то же условие на всём уровне), что быстро и устойчиво, и кодирует категории ordered target statistics, считая статистику только по «предыдущим» объектам случайной перестановки, чтобы не было утечки цели. Также использует ordered boosting.
- Leaf-wise рост и GOSS это LightGBM.
- Точный перебор как опция есть в XGBoost, но все три библиотеки умеют гистограммы.
- GPU поддерживают все три.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.