Доступно

Параметры генерации: лимит, temperature и совместимость

Как задавать max_tokens, max_output_tokens, temperature, stop и reasoning без лишнего резерва и ошибок совместимости.

API Токенмоста работает

Базовый адрес — https://tokenmost.ru/v1. Создайте ключ в личном кабинете, выберите модель в каталоге и отправьте первый запрос. Методы, которые ещё не доступны, отмечены отдельно.

Как это устроено

Параметры зависят от API-контракта и модели. Начинайте с обязательных полей и ограничения ответа; добавляйте sampling, stop, reasoning и tools по одному, проверяя ответ и расход.

Что потребуется

  • Выбранный API-контракт и точный ID модели.
  • Известный максимальный ответ модели и целевой бюджет запроса.
  • Набор контрольных промптов для сравнения результата.

Порядок работы

  1. Отправьте минимальный запрос с небольшим лимитом ответа.
  2. Добавьте temperature только если нужна вариативность и модель его поддерживает.
  3. Используйте max_tokens для Chat/Messages и max_output_tokens для Responses.
  4. Добавляйте stop, reasoning, tools и structured output отдельно.
  5. После каждого изменения сверяйте формат, finish reason, токены и стоимость.

Готовая конфигурация

Соответствие лимита API

Chat Completions: max_tokens
Responses API:    max_output_tokens
Messages API:     max_tokens (обязателен)

Что учесть

Не копируйте набор параметров между API и моделями вслепую. Минимальный запрос проще диагностировать и дешевле проверять.

Лимит ответа и резерв

Чем выше максимальный ответ, тем больше сумма, которую сервис должен временно зарезервировать. Задавайте лимит по задаче, а не максимально возможное значение модели.

Temperature

Низкое значение обычно даёт более стабильный ответ, высокое — больше вариативности. Не все reasoning-модели принимают sampling-параметры в каждой комбинации.

Неизвестные поля

Токенмост отклоняет неподдерживаемые параметры с 400 вместо молчаливого игнорирования. Это помогает заметить ошибку клиента до платной генерации.

Ошибки и диагностика

HTTP 400 про лимит

Передайте положительное целое значение в поле, соответствующем выбранному API, и не превышайте лимит модели.

HTTP 400 про неизвестное поле

Удалите параметр другого API или неподдерживаемую настройку модели.

HTTP 402 после увеличения лимита

Максимальный ответ увеличил необходимый резерв; уменьшите лимит или бюджетно пополните баланс.

Ответ слишком случайный

Уменьшите temperature и проверьте системную инструкцию на контрольном наборе.

Источники и связанные инструкции

Читайте дальше

← Все инструкции