Выбор ответа Middle Собственные значения и SVD обновлено
PCA без стандартизации
Вопрос
В данных признак «доход в рублях» (дисперсия около 10¹⁰) и «возраст в годах» (дисперсия около 100). Запустили PCA без стандартизации. Что получится?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Первая компонента почти совпадёт с осью дохода просто из-за масштаба. PCA ищет направления максимальной дисперсии, а дисперсия зависит от единиц.
Варианты ответа
- Ничего страшного: PCA инвариантен к масштабу признаков, ведь он ищет направления
- Первая компонента почти совпадёт с осью дохода просто из-за масштабаправильный ответ
- Первая компонента совпадёт с возрастом, потому что он информативнее дохода
- PCA упадёт с ошибкой из-за несопоставимых единиц измерения признаков
Разбор
PCA ищет направления максимальной дисперсии, а дисперсия зависит от единиц. Доход в рублях задавит всё остальное. Поэтому перед PCA признаки обычно центрируют и стандартизуют (если единицы разные).
- PCA как раз не инвариантен к масштабу, это главная ловушка.
- Информативность PCA не оценивает, он смотрит только на разброс.
- Ошибки не будет, будет молча плохой результат.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.