Выбор ответа Middle RAG обновлено
Переписывание запроса в диалоге
Вопрос
В чате поддержки пользователь сначала спросил про возврат для физлиц, затем написал «а для юрлиц?». Поиск по второму сообщению ничего не находит. Что сделать?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Перед поиском переписать запрос в самодостаточный: «условия возврата для юрлиц». Короткие реплики без контекста плохо ищутся.
Варианты ответа
- Перед поиском переписать запрос в самодостаточный: «условия возврата для юрлиц»правильный ответ
- Искать по всей истории диалога, склеенной в одну строку, чтобы не потерять контекст
- Увеличить top-k до 200, чтобы нужный документ точно попал в найденные
- Пропустить поиск и ответить из знаний модели, раз вопрос короткий и уточняющий
Разбор
Короткие реплики без контекста плохо ищутся. Стандартный шаг: модель (или правила) переписывает последний вопрос с учётом истории в полный запрос, по нему и ищем. Склейка всей истории размывает запрос и тянет старые темы. Увеличение top-k не поможет найти то, что не похоже на запрос. Ответ без поиска вернёт галлюцинации.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.