РУКОВОДСТВО · ОБНОВЛЕНО 2026-09-15
Токены нейросетей: как считать количество и стоимость
Токены — единицы обработки модели: они описывают объём входа и ответа, участвуют в ограничении контекста и расчёте стоимости API.
Токен — фрагмент данных, который обрабатывает модель. В текстовых моделях это часть слова, слово, знак или служебный элемент; точное разбиение зависит от tokenizer. Стоимость запроса обычно считают отдельно для входных и выходных токенов, а reasoning, кэш, изображения и инструменты могут иметь дополнительные правила.
1. Что модель считает входными токенами
Во вход попадает не только последнее сообщение. Считаются системные правила, роли, история разговора, переданные документы, описания инструментов и их результаты. Если приложение каждый раз отправляет длинную историю, стоимость и задержка растут вместе с ней. Разные tokenizer разбивают одинаковый русский текст неодинаково, поэтому оценка по символам годится только для чернового бюджета.
2. Как считается базовая стоимость
Для обычной текстовой модели используйте две части: input tokens × ставка входа / 1 000 000 плюс output tokens × ставка выхода / 1 000 000. Например, 20 000 входных и 2 000 выходных токенов умножаются на разные ставки. Калькулятор должен брать актуальную цену выбранного route, а не число из статьи: тарифы и доступность меняются.
3. Что ещё может попасть в счёт
Reasoning-токены могут быть скрыты от видимого ответа, но учитываться в usage. Prompt caching иногда снижает цену повторяющейся части, однако действует только при выполнении условий провайдера. Для изображений, аудио, видео, web search и tool calls возможны отдельные единицы или преобразование в токены. До запуска проверьте контракт конкретной модели и тестовый ответ billing.
4. Как оценить месячный бюджет
Соберите 100 типичных операций и сохраните фактический usage каждой. Рассчитайте среднее, медиану и высокий перцентиль, затем умножьте на ожидаемый объём. Добавьте повторы, неудачные ответы, служебные вызовы и рост истории. Для критичного процесса полезен показатель стоимости принятого результата: он учитывает случаи, которые пришлось генерировать заново или исправлять вручную.
5. Как уменьшить расход без потери качества
Удаляйте дубли контекста, передавайте только релевантные фрагменты, ограничивайте completion и сжимайте завершённую историю в проверяемое состояние. Простые этапы маршрутизируйте в компактную модель, сложные — в более сильную. Экономию проверяйте на одинаковой выборке: слишком агрессивное сокращение может увеличить ошибки и число повторов, сделав весь процесс дороже.
Частые вопросы
Сколько токенов в одном слове?
Фиксированного числа нет: результат зависит от языка, символов и tokenizer конкретной модели.
Почему ответ короткий, а токенов много?
В usage входит весь отправленный контекст и иногда внутреннее reasoning, а не только видимый ответ.
Контекстное окно и оплаченные токены — одно и то же?
Нет. Окно задаёт вместимость запроса и ответа, а биллинг учитывает фактически обработанный объём.
Можно заранее узнать точное количество?
Точный tokenizer или предварительный endpoint дают лучшую оценку, но окончательным источником остаётся usage ответа.
Какой запас закладывать?
Его определяют по верхнему перцентилю реальной выборки и отдельно учитывают retries и всплески нагрузки.