Доступно

Версии моделей: безопасное обновление в приложении

Как сравнить две версии модели Токенмоста по API ID, формату ответа, расходу и лимитам и переключить трафик с возможностью отката.

API Токенмоста работает

Базовый адрес — https://tokenmost.ru/v1. Создайте ключ в личном кабинете, выберите модель в каталоге и отправьте первый запрос. Методы, которые ещё не доступны, отмечены отдельно.

Как это устроено

Название семейства не гарантирует одинаковый контракт. Фиксируйте точный API ID модели в настройках приложения и меняйте его после проверки на своих задачах. Автоматического псевдонима «последняя версия» в публичном контракте Токенмоста нет.

Что потребуется

  • Два точных ID моделей из каталога и опубликованные тарифы для используемого метода.
  • Небольшой набор контрольных запросов без персональных данных.
  • Отдельный тестовый ключ с бюджетом и измерение качества результата.

Порядок работы

  1. Сохраните текущий ID модели, стоимость, контекст, максимальный вывод и пример успешного ответа.
  2. Выберите кандидат в каталоге и проверьте, что нужный API-метод и параметры доступны.
  3. Отправьте одинаковые короткие контрольные запросы с разными Idempotency-Key для каждой версии.
  4. Сравните формат, точность, задержку и фактическое списание; отдельно проверьте tools или JSON Schema, если приложение их использует.
  5. Переключите небольшой объём трафика через свою конфигурацию и следите за ошибками и расходом.
  6. При ухудшении верните прежний ID. Не удаляйте его из конфигурации до завершения наблюдения.

Готовая конфигурация

Конфигурация приложения

TOKENMOST_MODEL_CURRENT=MODEL_ID_FROM_CATALOG
TOKENMOST_MODEL_CANDIDATE=SECOND_MODEL_ID_FROM_CATALOG
TOKENMOST_BASE_URL=https://tokenmost.ru/v1
# Переключение выполняет ваше приложение; серверный alias latest не используется.

Что учесть

Токенмост не переключает приложение автоматически на новую версию. Ваша система выбирает точный model в каждом запросе и отвечает за тест, постепенное включение и откат.

Ожидаемый результат

Кандидат отвечает по тому же методу, проходит контрольные сценарии и укладывается в бюджет. В истории видны точные ID и фактические списания обеих версий.

Что сравнивать

Проверяйте контекст, максимальный вывод, поддержку tools/structured output, коды ошибок, задержку и цену. Сходное название не означает одинаковые параметры.

Расходы и откат

Параллельный тест двух версий тарифицируется дважды. Установите бюджет тестового ключа и ограничьте выборку; старый ID держите готовым для обратного переключения.

Ошибки и диагностика

Модель не найдена

Проверьте точный API ID и статус тарифа в каталоге.

HTTP 400 на прежний параметр

У новой версии может быть другой лимит или набор допустимых параметров.

Другая структура ответа

Сверьте контракт API-метода и проверьте обработчик приложения до переключения трафика.

HTTP 402

Остановите сравнение и проверьте баланс и бюджет ключа.

Качество ухудшилось

Верните старый ID через конфигурацию и сохраните результаты контрольных запросов.

Источники и связанные инструкции

Читайте дальше

← Все инструкции