Пропуски Junior Регуляризация обновлено
Dropout и label smoothing в числах
Вопрос
Inverted dropout с p = 0.2 умножает сохранённые активации на (1). Label smoothing с ε = 0.1 на 10 классов даёт цель для верного класса (2) и для каждого неверного (3).
Попробуйте сами
Заполните пропуски по номерам.
1
2
3
Показать ответ и разбор
Коротко
1 / (1 - 0.2) = 1.25. Сглаживание: (1 - ε) + ε/K = 0.9 + 0.01 = 0.91 для верного и ε/K = 0.01 для остальных.
Что в пропусках
1
1.25 или 1,25
2
0.91 или 0,91 или .91 или ,91
3
0.01 или 0,01 или .01 или ,01
Разбор
1 / (1 - 0.2) = 1.25. Сглаживание: (1 - ε) + ε/K = 0.9 + 0.01 = 0.91 для верного и ε/K = 0.01 для остальных. Сумма 0.91 + 9·0.01 = 1.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.