Пропуски Junior SGD, momentum и Adam обновлено
Сколько шагов за обучение
Вопрос
Датасет 50 000 объектов, батч 250, обучение 20 эпох. Шагов в эпохе (1), всего шагов (2).
Попробуйте сами
Заполните пропуски по номерам.
1
2
Показать ответ и разбор
Коротко
50 000 / 250 = 200 шагов в эпохе, 200 · 20 = 4000 шагов. По этому числу задают длину warmup и расписания.
Что в пропусках
1
200
2
4000 или 4 000
Разбор
50 000 / 250 = 200 шагов в эпохе, 200 · 20 = 4000 шагов. По этому числу задают длину warmup и расписания.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.