Выбор ответа Senior Несбалансированные классы обновлено
Focal loss
Вопрос
Что делает focal loss, придуманная для детекции объектов?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Умножает кросс-энтропию на (1 - p)^γ: лёгкие, уже уверенно верные примеры почти не влияют на градиент. FL = -α(1 - pt)^γ·log pt.
Варианты ответа
- Увеличивает вес всех объектов редкого класса в фиксированное число раз α, чтобы выровнять вклад классов
- Умножает кросс-энтропию на (1 - p)^γ: лёгкие, уже уверенно верные примеры почти не влияют на градиентправильный ответ
- Отбрасывает из батча примеры с уверенностью выше порога, и градиент считается только по трудным
- Заменяет кросс-энтропию на MSE по вероятностям, у которой градиент на уверенных примерах меньше
Разбор
FL = -α(1 - p_t)^γ·log p_t. При γ = 2 пример с p_t = 0.9 теряет в весе в 100 раз, а трудные примеры сохраняют вклад. Так в одноэтапных детекторах огромное число простых фоновых областей не забивает обучение. В табличных задачах обычно хватает весов классов.
- Фиксированный вес класса это α, но суть focal в модулирующем множителе.
- Ничего не удаляется, веса плавные.
- Это модификация кросс-энтропии, а не MSE.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.