Код Middle Активации и функции потерь обновлено
Кросс-энтропия из логитов
Условие
Напишите ce_from_logits(logits, targets): средняя кросс-энтропия по батчу, где logits список векторов логитов, targets индексы верных классов. Используйте log-sum-exp: CE = logsumexp(z) - z_y. Округлите до 4 знаков.
Примеры
ce_from_logits([[0, 0]], [0]) // 0.6931
ce_from_logits([[2, 0, 0]], [0]) // 0.2395
ce_from_logits([[1000, 0]], [1]) // 1000
Решите в тренажёре
Редактор с автотестами прямо в браузере. Можно решить спокойно, вслух или под таймером, как на собесе.
Ещё по теме «Активации и функции потерь»
- Эволюция активаций
- BCEWithLogitsLoss
- CrossEntropyLoss в PyTorch
- Посчитайте softmax
- GELU и SiLU
- Huber loss
- MSE для классификации
- Активация на выходе