Выбор ответа Middle Распределения, MLE и MAP спрашивают часто обновлено
MSE как MLE
Вопрос
При каком допущении минимизация MSE в регрессии эквивалентна методу максимального правдоподобия?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Шум нормальный с постоянной дисперсией и независимый. y = f(x) + ε, ε N(0, σ²).
Варианты ответа
- Шум вокруг предсказания распределён по Лапласу
- Шум нормальный с постоянной дисперсией и независимыйправильный ответ
- Целевая переменная бинарная и распределена по Бернулли
- Признаки независимы и одинаково распределены (i.i.d.)
Разбор
y = f(x) + ε, ε ~ N(0, σ²). Тогда -log L = Σ(y - f(x))²/(2σ²) + const, и максимум правдоподобия совпадает с минимумом MSE. При шуме Лапласа получилась бы MAE (оценка медианы). Для бинарного y Бернулли даёт кросс-энтропию.
- Лаплас ведёт к MAE.
- Бинарная цель ведёт к log loss.
- Распределение признаков в этом выводе не участвует, моделируется y при данном x.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.