Command R7B API — быстрый RAG, агенты и токены

Контекст: 128 000токенов
Результат: Текстформат ответа
Вход / выход: 10 ₽ / 30 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "cohere/command-r7b-12-2024",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Cohere описывает Command R7B 12-2024 как небольшую и быструю текстовую модель для RAG, инструментов, агентов и многошаговых задач. Текущий маршрут Токенмоста принимает и возвращает текст и указывает контекст 128 000 токенов. Функции цитирования и structured output проверяются на конкретном endpoint.

Подготовьте короткие фрагменты знаний

Разбейте регламенты по завершённым правилам, сохраняя ID, дату действия и подразделение. Поиск фильтрует документы по правам оператора до вызова модели. Старые версии доступны для аудита, но не попадают в обычный ответ после даты замены; это снижает риск смешать действующие и отменённые условия.

Отвечайте только по найденному

Модель получает вопрос и небольшой набор фрагментов. Каждый существенный тезис сопровождается внутренним ID источника. Если найденных данных недостаточно или документы конфликтуют, ответ формулирует вопрос для уточнения и предлагает эскалацию. Сервер проверяет присутствие указанного ID во входном наборе.

Используйте инструменты экономно

Разрешите чтение статуса заявки, поиск ответственного и создание черновика задачи. Command R7B выбирает инструмент, но приложение валидирует имя, аргументы и права, а затем выполняет вызов. Изменение статуса, отправка сообщения и доступ к персональным данным требуют отдельного правила и подтверждения.

Проверяйте скорость вместе с отказами

Тестовый набор включает простые частые вопросы, редкие исключения, устаревшую инструкцию и запрос без основания. Измеряйте правильность источника, ненужные вызовы инструментов, задержку и долю корректных отказов. Компактная модель полезна только тогда, когда ускорение не создаёт уверенных ответов вне базы.

Токены и стоимость RAG-ответа

Расход состоит из вопроса, найденных фрагментов, системного правила, инструментальных результатов и ответа. Контекст 128 000 токенов не требует загружать весь справочник. Сравнивайте стоимость тысячи подтверждённых подсказок с учётом повторов и ручных исправлений по динамическим ставкам карточки.

Вопросы и ответы

Что принимает Command R7B API?

Текущий маршрут принимает текст и возвращает текст.

Какой контекст указан?

В каталоге Токенмоста указано 128 000 токенов.

Подходит ли R7B для RAG?

Да, Cohere прямо относит RAG к основным сценариям модели.

Модель сама вызывает API?

Она может предложить вызов; фактически его выполняет приложение после проверок.

Как считать цену?

Учитывайте все токены и вызовы до подтверждённой подсказки оператору.