Выбор ответа Middle Дообучение и LoRA спрашивают часто обновлено
QLoRA
Вопрос
Чем QLoRA отличается от обычной LoRA?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Базовая модель хранится в 4 битах, а адаптеры LoRA учатся в 16 битах поверх неё. Основная память при LoRA уходит на замороженные веса базовой модели.
Варианты ответа
- В QLoRA сами адаптеры квантуются в 1 бит, а базовая модель остаётся в 16 битах
- Базовая модель хранится в 4 битах, а адаптеры LoRA учатся в 16 битах поверх неёправильный ответ
- QLoRA обучает все веса модели, но в 4-битной арифметике, поэтому быстрее и дешевле
- QLoRA работает только для моделей меньше 1 млрд параметров, где квантование безопасно
Разбор
Основная память при LoRA уходит на замороженные веса базовой модели. QLoRA хранит их в 4 битах (NF4) и деквантует на лету при вычислениях, адаптеры при этом учатся в обычной точности. Так крупные модели дообучают на одной GPU. Адаптеры не квантуются в 1 бит. Все веса QLoRA не обучает. Ограничения по размеру модели нет, наоборот, метод придуман для больших.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.