Выбор ответа Junior Активации и функции потерь обновлено
Huber loss
Вопрос
Когда в регрессии берут Huber loss вместо MSE?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Когда в цели есть выбросы: Huber квадратичен около нуля и линеен на больших ошибках. MSE возводит большие ошибки в квадрат, и несколько выбросов тянут модель.
Варианты ответа
- Когда целевая переменная бинарная и нужна устойчивая оценка вероятности
- Когда нужна максимальная чувствительность к большим ошибкам и редким крупным значениям
- Когда в цели есть выбросы: Huber квадратичен около нуля и линеен на больших ошибкахправильный ответ
- Когда данных мало и MSE переобучается, а Huber работает как L2-регуляризация
Разбор
MSE возводит большие ошибки в квадрат, и несколько выбросов тянут модель. Huber ведёт себя как MSE при |e| < δ и как MAE дальше, оставаясь гладкой. Используют в регрессии с шумными метками и в DQN.
- Для бинарной цели есть кросс-энтропия.
- Максимальную чувствительность к большим ошибкам даёт как раз MSE.
- Объём данных не основной критерий.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.