Выбор ответа Middle Деревья и ансамбли обновлено

Случайность признаков в лесу

Вопрос

Зачем случайный лес на каждом разбиении рассматривает случайное подмножество признаков?

Попробуйте сами

Выберите вариант, и откроется разбор.

Показать ответ и разбор

Коротко

Правильный ответ: Чтобы деревья были меньше коррелированы: иначе все начинали бы с одного сильного признака. Дисперсия среднего коррелированных моделей ρσ² + (1 - ρ)σ²/n упирается в корреляцию ρ.

Варианты ответа

  1. Чтобы ускорить предсказание: в каждом узле дерева хранится меньше признаков и порогов
  2. Чтобы деревья были меньше коррелированы: иначе все начинали бы с одного сильного признакаправильный ответ
  3. Чтобы каждое отдельное дерево было точнее: на подмножестве признаков меньше шума от слабых
  4. Чтобы лес мог работать с пропусками: признаки с NaN просто не попадают в подмножество узла

Разбор

Дисперсия среднего коррелированных моделей ρσ² + (1 - ρ)σ²/n упирается в корреляцию ρ. Если все деревья видят один сильный признак, они похожи друг на друга. Подвыборка признаков (по умолчанию √d для классификации) делает их разнообразнее, и усреднение работает лучше.

  • Предсказание не ускоряется, деревья такие же.
  • Отдельное дерево как раз немного хуже.
  • Обработка пропусков это отдельный механизм.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.

Термины по теме