Как рассчитать стоимость AI API по токенам
Бюджет AI-функции нельзя оценивать только по числу сообщений. Стоимость зависит от объёма входа, объёма ответа, ставок конкретной модели и того, сколько истории повторно отправляется в каждом запросе.
Базовая формула
Стоимость равна входным токенам, умноженным на ставку входа, плюс выходные токены, умноженные на ставку выхода. Если цены указаны за миллион токенов, каждую часть делят на 1 000 000. Используйте фактический usage из ответа или журнала провайдера.
- input cost = input tokens × input rate / 1 000 000
- output cost = output tokens × output rate / 1 000 000
- total cost = input cost + output cost − подтверждённая экономия кеша
Почему диалог дорожает
При обычной чатовой интеграции история снова попадает во вход следующего запроса. Десятое сообщение оплачивает не только новый вопрос, но и переданный контекст. Сжимайте завершённые части диалога и не добавляйте в контекст данные, которые модели не нужны.
Как прогнозировать бюджет
Замерьте медиану и верхний перцентиль токенов на реальных сценариях, затем умножьте на ожидаемое число запросов. Отдельно заложите повторы после временных ошибок и длинные ответы. Финансовый лимит должен работать на API-ключе, а не только в интерфейсе приложения.