Как рассчитать стоимость AI API по токенам

Стоимость запроса — это входные токены, умноженные на ставку входа, плюс выходные токены, умноженные на ставку выхода, всё делённое на миллион. Ставки у каждой модели свои и со временем меняются.

Пример для калибровки интуиции: 2 000 входных токенов при ставке 0,50 и 500 выходных при ставке 1,00 дают 0,001 + 0,0005 = 0,0015 до округления. Свои цифры подставляйте из каталога, не из памяти.

Пользователь видит одно сообщение, биллинг видит всё: системные инструкции, retrieved-контекст, повторные попытки, форматирование ответа. Операция «ответ поддержки» — это 3–5 запросов, а не один.

Оценивайте медиану и 95-й перцентиль полной операции. Среднее врёт: один тяжёлый диалог перекрывает сотню лёгких.

Каждое новое сообщение тащит во вход всю историю. Десятый вопрос диалога может стоить в разы дороже первого при одинаковом размере нового текста — контекст растёт, ставка та же.

Лечится окном из последних сообщений и суммаризацией старого. Резать нужно именно вход: выход модели вы контролируете лимитом длины, вход — только дисциплиной контекста.

Если каталог показывает отдельные cached rates, они применяются только к подтверждённому cached usage. Умножать базовую цену на процент кеширования и ждать такой счёт — ошибка: фактическую структуру usage это не повторяет.

Кеш выигрывает на повторяющихся системных промптах и RAG с горячими чанками. На разовых диалогах его вклад близок к нулю — не закладывайте его в бюджет.

У image-моделей фиксированная цена за генерацию, токенные ставки текстовых моделей к ним неприменимы. Не смешивайте две арифметики в одной таблице — получите красивый и неверный бюджет.

В интерфейсе разводите строки: «генерации» и «токены» отдельно. Повторы после ошибок тоже стоят денег и тоже считаются.

Сведите экономику в одну таблицу и храните рядом с кодом. При смене модели таблица пересчитывается первой — до изменения кода, а не после сюрприза в истории списаний.

Предварительная оценка считает максимум ответа, списываются реально обработанные токены. После запроса сверьте input/output usage и финальную сумму в истории личного кабинета.

Расхождение оценки и факта — это баг в вашем подсчёте контекста, а не в биллинге. Ищите лишний контекст, а не ошибку провайдера.