Доступно

Рассуждающие модели: effort, бюджет и проверка результата

Как использовать reasoning_effort или reasoning, ограничивать расход и оценивать итог без раскрытия внутренних рассуждений.

API Токенмоста работает

Базовый адрес — https://tokenmost.ru/v1. Создайте ключ в личном кабинете, выберите модель в каталоге и отправьте первый запрос. Методы, которые ещё не доступны, отмечены отдельно.

Как это устроено

Рассуждающие модели полезны для кода, математики и многошаговых условий, но могут отвечать дольше и расходовать специальные reasoning-токены. Оценивайте проверяемый итог, а не наличие скрытой цепочки рассуждений.

Что потребуется

  • Модель с опубликованной поддержкой reasoning.
  • Проверяемые критерии качества и контрольный набор задач.
  • Лимит времени, максимального ответа и бюджета ключа.

Порядок работы

  1. Сначала измерьте ту же задачу без повышенного reasoning.
  2. Передайте один вариант: reasoning_effort либо reasoning.effort.
  3. Начните с low/medium и разумного общего лимита ответа.
  4. Сравните качество, задержку и usage на одинаковых примерах.
  5. Повышайте effort только если измеримое улучшение оправдывает расход.

Готовая конфигурация

Responses API

{"model":"полный-id-из-каталога","input":"Проверь решение по критериям","reasoning":{"effort":"medium"},"max_output_tokens":2048}

Что учесть

Не требуйте и не сохраняйте скрытую цепочку рассуждений. Для контроля используйте итог, тесты, источники и usage.

Один способ настройки

Не передавайте reasoning и reasoning_effort одновременно. Противоречивые параметры отклоняются с 400.

Токены рассуждения

Они могут входить в usage и резерв ответа, даже если внутренний текст не возвращается пользователю. Пустой видимый текст при достижении лимита не всегда означает нулевой расход.

Проверка качества

Просите краткий проверяемый ответ, тест, расчёт или ссылки на входные данные. Скрытые рассуждения не являются доказательством правильности.

Ошибки и диагностика

HTTP 400 про reasoning

Удалите конфликтующие поля и используйте поддерживаемый effort.

Ответ пустой

Проверьте finish reason и usage: лимит мог уйти на reasoning.

Запрос стал дорогим

Снизьте effort/лимит, сократите контекст и сравните с обычной моделью.

Качество не выросло

Верните более дешёвую настройку; effort не гарантирует улучшение каждой задачи.

Источники и связанные инструкции

Читайте дальше

← Все инструкции