Выбор ответа Middle ИИ-фичи в продукте обновлено
Модель вернула невалидный ответ
Вопрос
Ответ модели не прошёл проверку схемы. Как разумно поступить?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Повторить запрос с текстом ошибки валидации, затем уйти в фолбэк. Ограниченный повтор с описанием ошибки часто чинит ответ, а после лимита попыток нужен понятный фолбэк.
Варианты ответа
- Показать пользователю ответ как есть, пусть он сам разберётся
- Сразу вернуть 500 и записать в лог весь промпт с данными клиента
- Повторить запрос с текстом ошибки валидации, затем уйти в фолбэкправильный ответ
- Поднять температуру до максимума и повторять до успешного ответа
Разбор
Ограниченный повтор с описанием ошибки часто чинит ответ, а после лимита попыток нужен понятный фолбэк. Сырой ответ ломает интерфейс и доверие. 500 без попытки исправить и полный промпт с данными клиента в логах это две ошибки сразу. Бесконечные повторы с высокой температурой дорогие и непредсказуемые.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.