токенмостAPIИзучить API
Скоро · предварительная инструкция

Подключение Python

Подготовка Python к работе с моделями через Токенмост.

Готовимся к запуску API

Каталог и цены уже доступны. Подключение и генерация готовятся. Инструкции с отметкой «Скоро» описывают подготовку: окончательные настройки будут подтверждены при запуске.

Как это устроено

Используйте серверный HTTP-клиент: URL, Bearer-заголовок и JSON-тело запроса.

Порядок работы

  1. Дождитесь открытия совместимого метода Токенмоста: подключение этого инструмента пока не подтверждено.
  2. Сохраните адрес подключения, ключ проекта и ID выбранной модели в отдельном профиле.
  3. Проверьте короткий запрос в тестовом проекте, затем ошибки, отмену и ограничение расходов.

Пример для подготовки

Адрес TOKENMOST_BASE_URL должен включать /v1. Подставьте подтверждённый адрес после запуска API, ключ проекта и точный ID модели. Сейчас этот пример не выполняет запросы к публичному сайту.

import json, os, uuid
from urllib.request import Request, urlopen

body = {
    "model": os.environ["TOKENMOST_MODEL"],
    "messages": [{"role": "user", "content": "Что такое API?"}],
    "max_tokens": 128,
}
request = Request(
    os.environ["TOKENMOST_BASE_URL"].rstrip("/") + "/chat/completions",
    data=json.dumps(body).encode("utf-8"),
    headers={
        "Authorization": "Bearer " + os.environ["TOKENMOST_API_KEY"],
        "Content-Type": "application/json",
        "Idempotency-Key": str(uuid.uuid4()),
    },
)
# HTTPError при неуспешном статусе нужно обработать в приложении.
with urlopen(request, timeout=60) as response:
    result = json.load(response)
    print(result["choices"][0]["message"]["content"])

Что учесть

Проверьте статус до разбора JSON и задайте таймаут. Точные поля настройки и проверенная версия инструмента будут добавлены при запуске интеграции.

Читайте дальше

← Все инструкции