Выбор ответа Senior Дообучение и LoRA обновлено
Дистилляция
Вопрос
Зачем дистиллировать большую модель в маленькую для узкой задачи?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Получить дешёвую и быструю модель с качеством, близким к большой, на этой задаче. Учитель генерирует качественные ответы на ваших данных, ученик учится их воспроизводить.
Варианты ответа
- Сделать маленькую модель лучше большой на всех задачах за счёт её ответов
- Уменьшить размер большой модели, удалив из неё веса и слои, которые не нужны этой задаче
- Получить дешёвую и быструю модель с качеством, близким к большой, на этой задачеправильный ответ
- Обойти необходимость в оценочном наборе: качество ученика гарантирует учитель
Разбор
Учитель генерирует качественные ответы на ваших данных, ученик учится их воспроизводить. На узкой задаче разрыв сокращается, а стоимость и задержка падают в разы. Превзойти учителя на всех задачах ученик не может. Большая модель при этом не уменьшается, это другое действие (квантование или прунинг). Оценочный набор нужен всегда, иначе не понять, достаточно ли близок ученик.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.