Выбор ответа Middle RNN и LSTM обновлено
Параметры LSTM
Вопрос
Сколько параметров у одного слоя LSTM с входом размера 10 и скрытым размером 20 (с одним вектором смещения на каждый гейт)?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: 2 480. Четыре блока (forget, input, output, кандидат), каждый с весами для входа 20·10, для состояния 20·20 и смещением 20: 4·(200 + 400 + 20) = 4·620 = 2 480.
Варианты ответа
- 2 480правильный ответ
- 620
- 600
- 4 960
Разбор
Четыре блока (forget, input, output, кандидат), каждый с весами для входа 20·10, для состояния 20·20 и смещением 20: 4·(200 + 400 + 20) = 4·620 = 2 480. В PyTorch два вектора смещения на гейт, там получится 2 560.
- 620 это один блок.
- 600 один блок без смещений.
- 4 960 удвоено без причины.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.