Model overloaded: модель перегружена — ждать или переключаться?

Перегрузка модели — временное состояние: запрос корректен, мощностей прямо сейчас нет. Стратегия: повтор с экспоненциальным backoff, jitter и общим deadline, а для критичных сценариев — fallback на запасную модель вторым вызовом. Не долбите синхронно в плотном цикле: получите 429 и продлите себе ожидание.

Снизьте параллельность, разнесите фоновые задачи во времени, урежьте повторы верхним пределом попыток. Если перегрузка держится часами — проверьте страницу статуса и временно переведите трафик на другую модель.