Слой nn.Embedding: что это
Коротко
Слой nn.Embedding: обучаемая таблица размера (числоid × размерность): по индексу возвращает строку. Эквивалентен умножению one-hot вектора на матрицу, но без построения one-hot.
Определение
Обучаемая таблица размера (число_id × размерность): по индексу возвращает строку. Эквивалентен умножению one-hot вектора на матрицу, но без построения one-hot. Градиент приходит только в строки, встретившиеся в батче.
Вопросы по теме с собеседований
Запомните, а не прочитайте
В тренажёре карточка вернётся, когда начнёт забываться. А билеты по Глубокое обучение проверят, что термин понятен в деле.