Nemotron 3 Super 120B A12B API — агенты и токены

Контекст: 262 144токенов
Результат: Текстформат ответа
Вход / выход: 0 ₽ / 0 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "nvidia/nemotron-3-super-120b-a12b:free",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Официальная карточка NVIDIA указывает 120B total и 12B active parameters, гибридную LatentMoE архитектуру с Mamba-2, MoE, Attention и Multi-Token Prediction. Модель предназначена для agentic workflows, long-context reasoning, tool use и RAG; reasoning mode переключается через chat template. Upstream заявляет контекст до 1M, тогда как Tokenmost-каталог показывает 262144. Маршрут `nvidia/nemotron-3-super-120b-a12b:free` в Tokenmost нужно проверить на фактические modalities, tool schema, reasoning control, context, output limit, usage, rate limits и цену. Название Free не гарантирует бесконечные запросы, а параметры self-hosted checkpoint не автоматически доступны через gateway. Эталон состоит из воспроизводимых IT-заявок с разрешёнными read-only инструментами, ожидаемыми фактами и запрещёнными действиями. Качество оценивается по завершённой задаче и правильности вызовов, а не по убедительности текста.

Ограничьте полномочия агента

Каждый tool получает узкую schema, timeout и проверяемый результат. Чтение отделяется от изменений, а опасные операции требуют внешнего разрешения. Секреты не помещаются в prompt; агент видит только короткоживущие возможности, необходимые для шага.

Соберите контекст по этапам

Не загружайте весь журнал только из-за большого окна. Сначала найдите связанные события, затем передайте их с timestamps и источниками. Сводка помечается как производная, чтобы агент мог вернуться к исходной записи при противоречии.

Проверьте reasoning mode

Сравните включённое и отключённое рассуждение на одинаковых задачах по success rate, числу tool calls, tokens и latency. Настройка upstream chat template может не совпадать с параметром Tokenmost route, поэтому реальный контракт фиксируется отдельно.

Запускайте задачи в песочнице

До production агент работает на тестовых сервисах и не может отправлять сообщения или менять инфраструктуру. Оценивайте неверные аргументы, циклы, пропущенные проверки и устойчивость к инструкциям внутри журналов. Итог подтверждает независимый verifier.

Рассчитайте цену завершённой заявки

Считайте входные и выходные tokens, повторные циклы, tool latency и долю ручных исправлений. Квота бесплатного route проверяется небольшим прогоном. Для устойчивой нагрузки сравните платный fallback и стоимость одной корректно закрытой задачи.

Вопросы и ответы

Что означает 120B A12B?

Карточка указывает 120 миллиардов параметров всего и 12 миллиардов активных.

Какой контекст доступен?

Upstream заявляет до 1M, Tokenmost показывает 262144; фактический route limit требует проверки.

Поддерживаются ли tools?

Модель предназначена для tool use, но schema конкретного API проверяется у Tokenmost.

Нужно всегда включать reasoning?

Нет, режимы сравниваются по качеству, токенам и задержке на своих задачах.

Можно дать агенту права администратора?

Полномочия ограничивают минимальным набором, а изменения защищают внешним approval.