Выбор ответа Junior Цепное правило и autodiff обновлено
Градиент через умножение
Вопрос
z = x·y, x = 3, y = -4, сверху пришёл ∂L/∂z = 2. Какие градиенты у x и y?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: ∂L/∂x = -8, ∂L/∂y = 6. ∂z/∂x = y = -4, значит ∂L/∂x = 2·(-4) = -8. ∂z/∂y = x = 3, ∂L/∂y = 2·3 = 6.
Варианты ответа
- ∂L/∂x = 6, ∂L/∂y = -8
- ∂L/∂x = -8, ∂L/∂y = 6правильный ответ
- ∂L/∂x = 2, ∂L/∂y = 2
- ∂L/∂x = -24, ∂L/∂y = -24
Разбор
∂z/∂x = y = -4, значит ∂L/∂x = 2·(-4) = -8. ∂z/∂y = x = 3, ∂L/∂y = 2·3 = 6. Узел умножения меняет множители местами.
- Обратный вариант получается, если умножить на собственное значение вместо чужого.
- Копирование градиента это поведение суммы.
- -24 это значение z, умноженное на 2, к производным отношения не имеет.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.