Поведение изменилось
Проверьте версию пресета, точный ID модели и отличия инструкции.
Как хранить модель, инструкцию и параметры сценария до запуска серверных пресетов Токенмоста.
Базовый адрес — https://tokenmost.ru/v1. Создайте ключ в личном кабинете, выберите модель в каталоге и отправьте первый запрос. Методы, которые ещё не доступны, отмечены отдельно.
Серверное хранение пресетов Токенмоста пока не открыто. Повторяемую настройку можно хранить в собственном приложении: точный ID модели, версия инструкции, допустимые параметры и контрольные примеры. API получает уже собранный обычный запрос.
{
"id": "support-reply",
"version": 2,
"model": "MODEL_ID_FROM_CATALOG",
"systemInstruction": "Отвечай кратко и по существу.",
"maxTokens": 200
}Серверные пресеты планируются. До их запуска храните конфигурацию у себя, отдельно от API-ключа, и отправляйте стандартное тело доступного метода.
При известной версии пресета приложение собирает воспроизводимый запрос и фиксирует, какую модель и инструкцию использовало.
Длинная системная инструкция передаётся в каждом запросе и влияет на входные токены. Сравнивайте фактический usage; серверного кеша пресета и скидки пока нет.
JSON — локальный файл вашего приложения. Публичных API-методов создать или вызвать серверный preset сейчас нет.
Проверьте версию пресета, точный ID модели и отличия инструкции.
Уберите параметры, которые не принимает выбранная модель.
Проверьте баланс и бюджет ключа.
Сравните длину инструкции, историю и maxTokens.
Серверное хранилище пресетов ещё не запущено; используйте конфигурацию приложения.