Выбор ответа Junior Деревья и ансамбли спрашивают часто обновлено

Критерий разбиения дерева

Вопрос

Как дерево решений для классификации выбирает разбиение в узле?

Попробуйте сами

Выберите вариант, и откроется разбор.

Показать ответ и разбор

Коротко

Правильный ответ: Перебирает признаки и пороги и берёт разбиение, сильнее всего снижающее взвешенную нечистоту (Джини, энтропия). Для каждого признака и порога считается нечистота детей, взвешенная по их размерам, и её снижение относительно родителя.

Варианты ответа

  1. Выбирает признак с наибольшей дисперсией и делит его по порогу, который максимизирует дисперсию в детях
  2. Перебирает признаки и пороги и берёт разбиение, сильнее всего снижающее взвешенную нечистоту (Джини, энтропия)правильный ответ
  3. Делит по медиане случайно выбранного признака, а качество разбиения проверяется только при обрезке
  4. Выбирает признак с наибольшей корреляцией с соседними признаками, чтобы одно разбиение захватило их все сразу

Разбор

Для каждого признака и порога считается нечистота детей, взвешенная по их размерам, и её снижение относительно родителя. Жадно берётся лучшее. Для регрессии критерий обычно MSE.

  • Дисперсия признака сама по себе ничего не говорит о классе.
  • Случайные пороги использует Extra Trees, но и там выбирают лучшее из нескольких кандидатов по нечистоте.
  • Корреляция между признаками к выбору разбиения не относится.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.

Термины по теме