Выбор ответа Junior kNN и SVM спрашивают часто обновлено

kNN и масштаб признаков

Вопрос

Признаки: возраст (20..70) и доход (20 000..500 000 ₽). Что будет с kNN без масштабирования?

Попробуйте сами

Выберите вариант, и откроется разбор.

Показать ответ и разбор

Коротко

Правильный ответ: Расстояние почти целиком определит доход, а возраст фактически перестанет учитываться. Евклидово расстояние складывает квадраты разностей, и разница доходов в десятки тысяч задавит разницу возрастов в десятки лет.

Варианты ответа

  1. Ничего: kNN инвариантен к масштабу, ведь ранжирование соседей от единиц не зависит
  2. Расстояние почти целиком определит возраст, потому что его значения точнее и стабильнее
  3. kNN упадёт с ошибкой переполнения при возведении разницы доходов в квадрат
  4. Расстояние почти целиком определит доход, а возраст фактически перестанет учитыватьсяправильный ответ

Разбор

Евклидово расстояние складывает квадраты разностей, и разница доходов в десятки тысяч задавит разницу возрастов в десятки лет. Для kNN, k-means, SVM с RBF и PCA масштабирование обязательно.

  • Инвариантны к масштабу деревья, а не метрические методы.
  • Доминирует признак с большим разбросом, то есть доход.
  • Ошибки не будет, будет молча плохая модель.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.

Термины по теме