Выбор ответа Senior ИИ-фичи в продукте обновлено
Ключ кеша ответов
Вопрос
Вы кешируете ответы модели на вопросы о документах компании. Документы видны разным пользователям по-разному. Что должно входить в ключ кеша?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Вопрос, модель, версия промпта и доступ пользователя. Ключ должен учитывать всё, что влияет на ответ.
Варианты ответа
- Только текст вопроса, чтобы кеш срабатывал как можно чаще
- Текст вопроса и дата, чтобы кеш сбрасывался раз в сутки
- Только идентификатор модели, остальное на ответ никак не влияет
- Вопрос, модель, версия промпта и доступ пользователяправильный ответ
Разбор
Ключ должен учитывать всё, что влияет на ответ. Если ответ собран из документов, доступных пользователю, без области доступа в ключе другой пользователь получит ответ по чужим данным: это утечка. Без версии промпта и модели после изменения промпта будут отдаваться старые ответы. Дата не решает проблему доступа.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.