Выбор ответа Junior Распределения, MLE и MAP спрашивают часто обновлено
Зачем логарифм правдоподобия
Вопрос
Почему максимизируют логарифм правдоподобия, а не само правдоподобие?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Логарифм монотонен (максимум тот же), даёт сумму вместо произведения, спасает от underflow. Правдоподобие независимых наблюдений это произведение тысяч чисел меньше 1, оно быстро становится машинным нулём.
Варианты ответа
- Логарифм монотонен (максимум тот же), даёт сумму вместо произведения, спасает от underflowправильный ответ
- Логарифм делает функцию правдоподобия выпуклой для любой модели, и минимум единственный
- Без логарифма правдоподобие не определено для непрерывных распределений с плотностью
- Логарифм даёт другую, более точную оценку параметров, чем максимум самого правдоподобия
Разбор
Правдоподобие независимых наблюдений это произведение тысяч чисел меньше 1, оно быстро становится машинным нулём. Логарифм переводит произведение в сумму, производные считать проще, а точка максимума не меняется, потому что логарифм строго возрастает.
- Выпуклость появляется для некоторых моделей (экспоненциальные семейства), но не всегда.
- Правдоподобие определено и без логарифма.
- Точка максимума та же самая, оценка не меняется.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.