Выбор ответа Middle LLM в проде спрашивают часто обновлено

Какие ошибки повторять

Вопрос

Какие ответы провайдера стоит повторять с экспоненциальной задержкой?

Попробуйте сами

Выберите вариант, и откроется разбор.

Показать ответ и разбор

Коротко

Правильный ответ: 429 и 5xx и сетевые таймауты; 400 и 401 нет. 429 (лимит) и 5xx временные: через паузу запрос может пройти, причём для 429 стоит учитывать Retry-After.

Варианты ответа

  1. Все ошибки без исключения, включая 400 и 401
  2. Только 400: запрос мог быть повреждён в сети
  3. Никакие: каждый повтор тарифицируется заново
  4. 429 и 5xx и сетевые таймауты; 400 и 401 нетправильный ответ

Разбор

429 (лимит) и 5xx временные: через паузу запрос может пройти, причём для 429 стоит учитывать Retry-After. 400 означает ошибку в самом запросе, повтор даст тот же результат. 401 означает проблему с ключом. Повторы временных ошибок нужны, а неудачный запрос обычно не тарифицируется или стоит мало.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.