Что такое контекстное окно и почему оно дорожает?

Контекстное окно — максимум токенов, которые модель видит за раз: системный промпт, история и новый вопрос вместе. Размер окна указан в карточке каждой модели в токенах.

В диалогах приложение обычно пересылает всю историю при каждом сообщении, поэтому десятый запрос везёт в разы больше входа, чем первый. Лечится суммаризацией истории, скользящим окном и кэшированием стабильных частей.