Пропуски Junior Градиентный спуск и выпуклость обновлено

Два шага градиентного спуска

Вопрос

f(w) = (w - 3)², старт w₀ = 0, learning rate 0.1. Градиент в w₀ равен (1), после первого шага w₁ = (2), после второго w₂ = (3).

Попробуйте сами

Заполните пропуски по номерам.

1
2
3
Показать ответ и разбор

Коротко

f'(w) = 2(w - 3). f'(0) = -6, w₁ = 0 - 0.1·(-6) = 0.6. f'(0.6) = -4.8, w₂ = 0.6 + 0.48 = 1.08. Каждый шаг сокращает расстояние до минимума в 0.8 раза: 1 - 2η.

Что в пропусках

1

-6

2

0.6 или 0,6 или .6 или ,6

3

1.08 или 1,08

Разбор

f'(w) = 2(w - 3). f'(0) = -6, w₁ = 0 - 0.1·(-6) = 0.6. f'(0.6) = -4.8, w₂ = 0.6 + 0.48 = 1.08. Каждый шаг сокращает расстояние до минимума в 0.8 раза: 1 - 2η.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.