По порядку Junior RAG обновлено
Порядок шагов RAG при ответе
Вопрос
Расставьте шаги обработки вопроса в RAG-системе по порядку.
Попробуйте сами
Расставьте шаги по порядку стрелками.
- 1Сгенерировать ответ со ссылками на источники
- 2Собрать контекст в пределах бюджета токенов
- 3Переранжировать кандидатов cross-encoder моделью
- 4Переписать вопрос с учётом истории диалога
- 5Найти кандидатов векторным и лексическим поиском
- 6Объединить списки через RRF
Показать ответ и разбор
Коротко
Сначала запрос делается самодостаточным, потом широкая и дешёвая выборка, объединение, дорогой точный реранкинг на малом наборе, сборка контекста и только потом генерация.
Правильный порядок
- 1Переписать вопрос с учётом истории диалога
- 2Найти кандидатов векторным и лексическим поиском
- 3Объединить списки через RRF
- 4Переранжировать кандидатов cross-encoder моделью
- 5Собрать контекст в пределах бюджета токенов
- 6Сгенерировать ответ со ссылками на источники
Разбор
Сначала запрос делается самодостаточным, потом широкая и дешёвая выборка, объединение, дорогой точный реранкинг на малом наборе, сборка контекста и только потом генерация.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.