Общий семантический кеш
Вопрос
Для экономии внедрили семантический кеш ответов, общий для всех пользователей. Какой риск безопасности это создаёт?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Варианты ответа
- Кеш увеличит стоимость запросов из-за вызовов эмбеддинг-модели на каждый вопрос
- Пользователь получит закешированный ответ, сделанный для другого человека, с его даннымиправильный ответ
- Кеш отключит модерацию ответов, потому что закешированный ответ повторно не проходит фильтры провайдера
- Никакого риска: кеш хранит только векторы запросов, а не тексты ответов
Разбор
Если ответ зависит от данных пользователя (его заказы, документы), похожий вопрос другого человека может попасть в тот же ключ кеша. Кеш нужно разделять по пользователю или арендатору, а кешировать только ответы, не зависящие от персональных данных. Стоимость кеш снижает. Модерация отключится, только если её ставили после кеша; это отдельная ошибка. Кеш хранит и ответы, иначе он бесполезен.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.
Предыдущий вопрос
Персональные данные и внешний провайдер
Следующий вопрос
Prompt injection: объяснить и защититься
Ещё по теме «Безопасность LLM»
- Прямая и косвенная инъекция
- Слои защиты от инъекций
- Каналы утечки данных
- Маскирование персональных данных перед отправкой в модель
- Спроектируйте модерацию для пользовательского контента
- Косвенная prompt injection
- Минимальные права агента
- Утечка через markdown-картинку