Выбор ответа Junior Дообучение и LoRA спрашивают часто обновлено
Дообучение или RAG
Вопрос
Боту нужно отвечать по внутреннему регламенту, который обновляется каждую неделю. Что выбрать?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: RAG: регламент индексируется и подаётся в контекст, обновление сводится к переиндексации. Часто меняющиеся знания это задача RAG: обновить индекс дёшево и быстро, а ответ может ссылаться на пункт регламента.
Варианты ответа
- Дообучение на свежей версии регламента каждую неделю с LoRA-адаптером
- Дообучение один раз на текущей версии, а мелкие изменения модель обобщит сама
- Увеличить температуру, чтобы модель гибче подстраивалась под новые формулировки регламента
- RAG: регламент индексируется и подаётся в контекст, обновление сводится к переиндексацииправильный ответ
Разбор
Часто меняющиеся знания это задача RAG: обновить индекс дёшево и быстро, а ответ может ссылаться на пункт регламента. Еженедельное дообучение дорого, а факты из обучения модель усваивает ненадёжно и без ссылок. «Додумает» значит выдумает. Температура не добавляет знаний.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.