Карточка Junior Регуляризация обновлено

Переобучение нейросети

Вопрос

Как по кривым обучения увидеть переобучение?

Попробуйте сами

Ответьте про себя или вслух, потом откройте ответ и сверьтесь.

Показать ответ и разбор

Коротко

Loss на трейне продолжает падать, а на валидации после минимума растёт, и метрика валидации ухудшается. Лечат больше данными и аугментациями, dropout, weight decay, early stopping, меньшей моделью.

Ответ

Loss на трейне продолжает падать, а на валидации после минимума растёт, и метрика валидации ухудшается. Лечат больше данными и аугментациями, dropout, weight decay, early stopping, меньшей моделью.

Разбор

Loss на трейне продолжает падать, а на валидации после минимума растёт, и метрика валидации ухудшается. Лечат больше данными и аугментациями, dropout, weight decay, early stopping, меньшей моделью.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.

Термины по теме