Nemotron 3 Nano 30B A3B API — агенты и цена

Контекст: 262 144токенов
Результат: Текстформат ответа
Вход / выход: 20 ₽ / 50 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "nvidia/nemotron-3-nano-30b-a3b",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Официальная карточка NVIDIA описывает 30B total и 3B active parameters, гибридную Nemotron-H архитектуру и несколько языков. Модель предназначена для conversational text generation; опубликованные checkpoints используют custom code. Результаты self-hosted inference и рекомендуемые sampling settings не автоматически совпадают с hosted API. Tokenmost показывает `nvidia/nemotron-3-nano-30b-a3b`, text input/output и контекст 262144. Контрольный вызов подтверждает chat schema, system message, tool calls, reasoning control, structured output, max output, usage и цену. Число контекста в каталоге проверяется на обработке длинного запроса без скрытой обрезки. Эталон содержит короткие заявки, неоднозначные описания, инструкции внутри цитат и случаи, требующие оператора. Правильность определяется выбранной категорией, найденным источником и допустимым действием.

Ограничьте роль первой линии

Агент может прочитать статус и предложить утверждённую инструкцию, но не меняет аккаунт или инфраструктуру. Каждая возможность задаётся узким tool contract. Недоступный инструмент приводит к понятной передаче человеку, а не к выдуманному результату.

Получайте контекст через retrieval

Сначала найдите несколько действующих passages, затем передайте их с URL и датой. Не загружайте всю базу из-за большого окна. Внутренние документы считаются данными, поэтому инструкции из их текста не могут расширить полномочия агента.

Проверьте структурированный ответ

Результат содержит category, confidence, cited passage и next action по schema. Парсер отклоняет лишние поля и неизвестные категории. Свободное объяснение показывается после обязательных проверяемых значений, а не вместо них.

Сравните с правилами и Super

На простых заявках измерьте accuracy, abstain и latency относительно deterministic baseline. Сложные цепочки отдельно сравните с Nemotron Super. Nano выбирается там, где сохраняет качество при меньших tokens и времени.

Считайте цену обработанной заявки

Учтите prompt, найденные passages, output, повторы и tool calls. Отслеживайте cost, p95 и долю ручной доработки. Розничная ставка Tokenmost подтверждается фактическим usage, а кэш применяется только к обезличенным одинаковым запросам.

Вопросы и ответы

Что означает A3B?

Около трёх миллиардов параметров активно при 30 миллиардах всего.

Это мультимодальная модель?

Этот Tokenmost route заявлен как text-to-text; Omni опубликована отдельно.

Подходит ли модель для AI-агента?

Да, после проверки tools, ограничений и качества на реальных задачах.

Нужно передавать всю базу знаний?

Нет, retrieval выбирает несколько актуальных passages.

Как узнать цену токенов?

Сверить input/output usage контрольного запроса с тарифом Tokenmost.