Выбор ответа Senior RAG спрашивают часто обновлено
Права доступа в RAG
Вопрос
Корпоративный RAG по документам с разными правами доступа. Где правильно проверять права?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: На этапе поиска: фильтровать кандидатов по правам до попадания в контекст модели. Модель не граница безопасности: если закрытый текст попал в контекст, его можно вытащить инъекцией или он просочится в пересказ.
Варианты ответа
- В системном промпте: «не показывай документы, к которым у пользователя нет доступа»
- После генерации: проверять, нет ли в ответе цитат из закрытых документов, и скрывать их
- На этапе поиска: фильтровать кандидатов по правам до попадания в контекст моделиправильный ответ
- Не проверять: эмбеддинги не содержат текста документов, утечка невозможна
Разбор
Модель не граница безопасности: если закрытый текст попал в контекст, его можно вытащить инъекцией или он просочится в пересказ. Поэтому фильтр по правам применяется в поиске, метаданные прав хранятся рядом с чанками. Проверка после генерации ловит только дословные цитаты. Эмбеддинги частично обратимы, а кроме вектора в индексе хранится и текст.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.