Выбор ответа Junior Постановка задачи спрашивают часто обновлено
Признак переобучения
Вопрос
Какая картина типична для переобученной модели?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Ошибка на трейне низкая, на валидации заметно выше и растёт с обучением. Переобученная модель запоминает шум трейна: на нём ошибка падает, а на новых данных растёт.
Варианты ответа
- Ошибка высокая и на трейне, и на валидации, и обе почти не падают
- Ошибка на трейне низкая, на валидации заметно выше и растёт с обучениемправильный ответ
- Ошибка на валидации стабильно ниже, чем на трейне, на всех эпохах
- Ошибки на трейне и валидации одинаково низкие и падают вместе с обучением
Разбор
Переобученная модель запоминает шум трейна: на нём ошибка падает, а на новых данных растёт. Высокая ошибка везде это недообучение. Валидация ниже трейна бывает из-за регуляризации (dropout активен только на трейне) или удачного разбиения, но это не переобучение. Одинаково низкие ошибки это хорошо обученная модель.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.