Провайдер упал: что будет с сервисом

Образцовый ответ: «Первое, таймауты: на соединение, на весь ответ и на паузу в стриме. Ретраи только для 429, 5xx и сетевых ошибок, с экспонентой, джиттером и учётом Retry-After, и ограниченным числом попыток. При серии ошибок circuit breaker перестаёт слать запросы и сразу идёт в фолбэк. Фолбэк это другая модель или провайдер, через которые заранее прогнан тот же оценочный набор, с отдельной версией промпта, если надо. Переключение делается настройкой в шлюзе, без деплоя. Если и резерв недоступен, деградирую: показываю честное сообщение, ставлю асинхронные задачи в очередь, отключаю второстепенные функции. На своей стороне лимиты и приоритеты, чтобы при перегрузке страдали фоновые задачи, а не пользователи. Всё под мониторингом с алертами на долю ошибок, фолбэков и p95».