Gateway Timeout 504 от AI API: что делать?

Код 504 означает, что шлюз не дождался ответа upstream за отведённое время: длинная генерация, перегрузка модели или разрыв по пути. Запрос при этом мог уже уйти в обработку, поэтому слепой повтор опасен для неидемпотентных операций. Стратегия: увеличьте timeout клиента под длинные ответы, добавьте повтор с экспоненциальным backoff, jitter и общим deadline.

В лог пишите время, endpoint, model ID и X-Request-Id, а также место обрыва — handshake или середина streaming. Постоянные 504 в одной сети при живой другой — проблема маршрута, а не ключа.