Карточка Junior Линейные модели обновлено
Log loss
Вопрос
Как выглядит функция потерь логистической регрессии?
Попробуйте сами
Ответьте про себя или вслух, потом откройте ответ и сверьтесь.
Показать ответ и разбор
Коротко
L = -(1/n)Σ[yᵢ log pᵢ + (1 - yᵢ) log(1 - pᵢ)], где pᵢ = σ(w·xᵢ + b). Это отрицательный логарифм правдоподобия Бернулли.
Ответ
L = -(1/n)Σ[yᵢ log pᵢ + (1 - yᵢ) log(1 - pᵢ)], где pᵢ = σ(w·xᵢ + b). Это отрицательный логарифм правдоподобия Бернулли. Выпукла по весам, градиент Σ(pᵢ - yᵢ)xᵢ / n.
Разбор
L = -(1/n)Σ[yᵢ log pᵢ + (1 - yᵢ) log(1 - pᵢ)], где pᵢ = σ(w·xᵢ + b). Это отрицательный логарифм правдоподобия Бернулли. Выпукла по весам, градиент Σ(pᵢ - yᵢ)xᵢ / n.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.