Выбор ответа Senior Собственные значения и SVD обновлено
Число обусловленности
Вопрос
Отношение наибольшего сингулярного числа матрицы к наименьшему равно 10⁸. Чем это грозит?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Задача плохо обусловлена: малые ошибки в данных сильно меняют решение Ax = b. Число обусловленности κ = σmax / σmin.
Варианты ответа
- Матрица вырождена, обратной не существует, и система Ax = b не имеет решений
- Ничем: важны только абсолютные значения сингулярных чисел, а не их отношение
- Матрица близка к ортогональной, у неё все сингулярные числа большие и устойчивые
- Задача плохо обусловлена: малые ошибки в данных сильно меняют решение Ax = bправильный ответ
Разбор
Число обусловленности κ = σmax / σmin. При κ ≈ 10⁸ относительная ошибка входа может умножиться до 10⁸ раз, в float32 (около 7 значащих цифр) это почти мусор. Для квадратичных функций с таким гессианом линии уровня вытянуты, и градиентный спуск зигзагует. Лечат масштабированием признаков, регуляризацией, предобуславливанием.
- Вырожденная матрица имеет σmin = 0 и κ = ∞, здесь она обратима, но плохо.
- Масштаб всей матрицы не важен, важно именно отношение.
- У ортогональной матрицы все сингулярные числа равны 1 и κ = 1.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.