Streaming-ответ обрывается на середине: что делать?

SSE-сеанс рвётся чаще всего не на модели, а по пути: таймауты reverse-прокси, буферизация, мобильные сети. Проверьте таймауты прокси и балансировщика, читайте чанки по мере поступления, а не ждите конца ответа. Сохраняйте уже полученный текст: при обрыве можно продолжить диалог с места разрыва новым запросом.

Для диагностики важны model ID, время и X-Request-Id оборванного запроса. Постоянные обрывы в одной сети при живых в другой — проблема маршрута, а не API: смените сеть или поднимите retry.