Все вопросы

Интеграции · Обновлено 27 сентября 2026 г.

Когда нужен streaming ответов, а когда нет?

Нужен везде, где человек ждёт ответа: чаты, боты, агенты — первые токены через доли секунды вместо минутного спиннера. Не нужен для фоновых задач: классификация, ночные сводки, пакетная обработка — там проще и дешевле обычный запрос.

Помните: поток требует обработки обрывов и отмены, а usage финализируется при закрытии операции. Детали — в гайде по streaming.

Смежные вопросы: интеграции