Карточка Middle Линейные модели обновлено
Нормальное уравнение
Вопрос
Как решается линейная регрессия в замкнутом виде и почему так делают не всегда?
Попробуйте сами
Ответьте про себя или вслух, потом откройте ответ и сверьтесь.
Показать ответ и разбор
Коротко
w = (XᵀX)⁻¹Xᵀy. Стоимость O(nd² + d³): при большом числе признаков дорого, при мультиколлинеарности численно неустойчиво.
Ответ
w = (XᵀX)⁻¹Xᵀy. Стоимость O(nd² + d³): при большом числе признаков дорого, при мультиколлинеарности численно неустойчиво. На практике используют QR или SVD, а при больших данных градиентные методы.
Разбор
w = (XᵀX)⁻¹Xᵀy. Стоимость O(nd² + d³): при большом числе признаков дорого, при мультиколлинеарности численно неустойчиво. На практике используют QR или SVD, а при больших данных градиентные методы.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.