LangChain Python через Chat Completions Токенмоста

Как это устроено

LangChain ChatOpenAI умеет работать с OpenAI-совместимым Chat Completions endpoint. Используйте base_url https://tokenmost.ru/v1 и отдельный ключ. Это реальный тарифицируемый запрос; сложные chains, tools и streaming проверяйте отдельно по модели.

Что потребуется

• Python и установленный langchain-openai актуальной версии.
• Положительный баланс и отдельный ключ с тестовым бюджетом и RPM.
• Точный ID текстовой модели, доступной через Chat Completions.

Порядок работы

1. Установите langchain-openai в виртуальное окружение и сохраните ключ в TOKENMOST_API_KEY.
2. Скопируйте полный model ID из каталога в TOKENMOST_MODEL.
3. Создайте ChatOpenAI с явным base_url, api_key, timeout, max_retries: 0 и небольшим max_tokens.
4. Вызовите один короткий prompt и проверьте content и usage_metadata.
5. После одиночного запроса отдельно проверьте tools и streaming на своей модели.
6. Сверьте число фактических запросов и списаний до включения цепочек и автоматических повторов.

Готовая конфигурация

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model=os.environ["TOKENMOST_MODEL"],
    api_key=os.environ["TOKENMOST_API_KEY"],
    base_url="https://tokenmost.ru/v1",
    timeout=20,
    max_retries=0,
    max_tokens=32,
)
response = llm.invoke("Ответь одним словом: работает")
print(response.content)
print(response.usage_metadata)

Что учесть

Пример касается простого invoke. Работа агентных chains и каждой модели с tools не гарантируется; после обновления SDK проверяйте совместимость и фактический расход.

Ошибки и диагностика

Источники и связанные инструкции

• Официальный ChatOpenAI
• Chat Completions
• Инструменты
• Баланс и стоимость

Читайте дальше

• Python: первый запрос к API Токенмоста
• JavaScript и Node.js: вызов API Токенмоста
• n8n: запрос к API Токенмоста через HTTP Request
• Модели и цены Токенмоста