Локальный градиент узла в backprop: что это
Коротко
Локальный градиент узла в backprop: производная выхода узла по его входам, вычисленная на значениях прямого прохода. В backward узел умножает пришедший сверху градиент на свой локальный и передаёт вниз.
Определение
Производная выхода узла по его входам, вычисленная на значениях прямого прохода. В backward узел умножает пришедший сверху градиент на свой локальный и передаёт вниз. Каждому узлу нужно знать только свою операцию.
Вопросы по теме с собеседований
Запомните, а не прочитайте
В тренажёре карточка вернётся, когда начнёт забываться. А билеты по Математика для ML проверят, что термин понятен в деле.