Nemotron 3.5 Lightning Free API — лимиты и токены

Контекст: 1 000 000токенов
Результат: Текстформат ответа
Вход / выход: 0 ₽ / 0 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "nvidia/nemotron-3.5-lightning:free",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

NVIDIA описывает Nemotron 3.5 Lightning как MoE-модель 30B-A3B для длинных агентных процессов. Текущий бесплатный маршрут Токенмоста принимает и возвращает текст и указывает контекст до 1 000 000 токенов. Цена, квоты и доступность бесплатного варианта могут отличаться от платного маршрута и меняться.

Что проверить бесплатно

Выберите одну узкую задачу, например классификацию безопасных уведомлений. Подготовьте закрытый набор с известными метками и измерьте точность, формат ответа и задержку. Бесплатный пилот нужен для решения о следующем этапе, а не для демонстрации нескольких удачных примеров.

Ограничьте прототип

Задайте максимум запросов, токенов и времени, обработайте 429 и недоступность. Не подключайте критичный пользовательский поток без запасного поведения. Сохраняйте идентификатор маршрута, чтобы результаты бесплатного и платного endpoint не смешивались в аналитике.

Длинный контекст в тесте

Не заполняйте окно случайными данными. Создайте отдельные тесты на короткий сигнал, длинную историю и поиск факта в середине документа. Измерьте не только наличие ответа, но и привязку к исходной записи и устойчивость формата.

Переход из пилота

До production повторите оценку на целевом платном или гарантированном маршруте. Проверьте тариф, лимиты, скорость и правила хранения данных. Зафиксируйте пороги качества и действие при недоступности, затем включайте трафик постепенно.

Токены и реальная цена

Нулевая цена токенов бесплатного endpoint не означает нулевую стоимость системы: остаются разработка, повторы, мониторинг и ручная проверка. Записывайте usage уже в пилоте, чтобы оценить будущий платный сценарий. Актуальное состояние цены показывает карточка Токенмоста.

Вопросы и ответы

Nemotron Free всегда бесплатен?

Только пока текущий маршрут показывает нулевую ставку; условия и доступность могут измениться.

Можно строить production на Free?

Сначала проверьте квоты и стабильность и подготовьте запасное поведение или гарантированный маршрут.

Какой контекст у бесплатной версии?

Текущий каталог указывает до 1 000 000 токенов.

Чем она отличается от платной карточки?

Модельное семейство совпадает, а цена, провайдер endpoint, квоты и доступность могут различаться.

Зачем считать токены при цене ноль?

Usage нужен для прогноза нагрузки и бюджета при переходе на платный маршрут.