NormaHub knowledge base

Потоковые ответы

Streaming доступен через Responses API у моделей, которые поддерживают этот маршрут.

Запрос

curl https://api.normahub.cc/v1/responses \
  -H "Authorization: Bearer $NORMAHUB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Объясни результат по шагам",
    "max_output_tokens": 512,
    "stream": true
  }'

Ответ передаётся как text/event-stream. Читайте события последовательно и извлекайте содержимое из строк data:.

Завершение и учёт

Не считайте разрыв TCP успешным завершением. Дождитесь финального события потока, закройте reader и сохраните X-Request-Id. Gateway завершает запись usage и стоимости при закрытии streaming-операции.

Ограничения

В текущей версии NormaHub streaming не включён для /v1/chat/completions и /v1/messages. Для них отправляйте stream: false либо используйте Responses API.

Задавайте отдельные таймауты подключения и чтения. После частично полученного ответа не выполняйте автоматический повтор без явной стратегии защиты от дублирования.