Карточка Middle Цепное правило и autodiff обновлено

Автодифференцирование

Вопрос

Чем автодифференцирование отличается от численного и символьного?

Попробуйте сами

Ответьте про себя или вслух, потом откройте ответ и сверьтесь.

Показать ответ и разбор

Коротко

Численное приближает производную разностями и неточно. Символьное строит формулу производной и может раздуваться.

Ответ

Численное приближает производную разностями и неточно. Символьное строит формулу производной и может раздуваться. Автодифф применяет цепное правило к конкретным операциям программы на конкретных числах: точно до машинной точности и за время порядка вычисления самой функции. Бывает прямой и обратный (backprop) режим.

Разбор

Численное приближает производную разностями и неточно. Символьное строит формулу производной и может раздуваться. Автодифф применяет цепное правило к конкретным операциям программы на конкретных числах: точно до машинной точности и за время порядка вычисления самой функции. Бывает прямой и обратный (backprop) режим.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.