Как бы вы добавили ИИ-фичу
Вопрос
Продукт хочет кнопку «Сгенерировать черновик ответа клиенту» в CRM. Как вы реализуете это на бэкенде?
Попробуйте сами
Ответьте вслух за 2 минуты, как на собесе. Потом сверьтесь с тезисами: что прозвучало, а что нет.
Показать ответ и разбор
Коротко
Что должно прозвучать в ответе
Ключ только на сервере, проверка прав и лимитов пользователя
Сборка промпта: инструкции, контекст обращения, без лишних данных
Таймаут, повторы с backoff на 429 и 5xx, фолбэк, max_tokens
Стриминг через SSE с обработкой обрыва и отмены
Черновик правит и отправляет человек, а не модель
Метрики токенов, стоимости, задержки; логи без персональных данных
Выбор провайдера с учётом 152-ФЗ и условий обработки данных
Что могут спросить следом
- Как вы поймёте, что черновики стали хуже после смены промпта?
- Сколько будет стоить фича при тысяче запросов в день и как это посчитать?
Разбор
Образцовый ответ: «Фронт вызывает наш эндпоинт, ключ провайдера лежит только в секретах бэкенда. На эндпоинте проверяю, что сотрудник имеет доступ к обращению, и лимит запросов на пользователя. Промпт собираю из стабильных инструкций в начале и текста обращения в конце, без лишних персональных полей. Вызов с таймаутом, повторами на 429 и 5xx с экспоненциальной задержкой, max_tokens и фолбэком на сообщение «попробуйте позже». Ответ стримлю через SSE, на обрыв показываю, что черновик неполный, при закрытии вкладки прерываю запрос. Черновик только черновик: правит и отправляет сотрудник. Пишу метрики токенов, стоимости и задержки, тексты обращений в логи не попадают. Провайдера выбираем с юристами: данные клиентов персональные, поэтому смотрим на отечественные модели или модель в своём контуре».
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.