NVIDIA · КАТАЛОГ МОДЕЛЕЙ
Nemotron 3.5 Lightning API
Nemotron 3.5 Lightning — открытая MoE-модель NVIDIA для быстрых постоянно работающих агентов и специализированных задач. Рассмотрим диспетчер инцидентов, который сортирует поток сигналов и вызывает только безопасные диагностические функции.
Nemotron 3.5 LightningNVIDIA- Контекст
- 262 144токенов
- Результат
- Текстформат ответа
- Вход / выход
- 20 ₽ / 40 ₽за 1 млн токенов
ПОДКЛЮЧЕНИЕ
От модели к первому запросу
Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.
const response = await client.chat.completions.create({
model: "nvidia/nemotron-3.5-lightning",
messages: [{ role: "user", content: "Ваш запрос" }],
});ПОДРОБНЫЙ ОБЗОР
Возможности модели
NVIDIA описывает Nemotron 3.5 Lightning как открытую модель 30B MoE с 3 млрд активных параметров для специализированных агентных нагрузок. Текущий маршрут принимает и возвращает текст, указывает контекст 262 144 и максимум ответа 131 072 токена, поддерживает reasoning, tools и Structured Outputs.
Роль диспетчера, а не администратора
Модель получает нормализованный сигнал, карту сервисов и последние безопасные наблюдения. Она выбирает категорию, приоритет и следующий диагностический запрос. Перезапуск, масштабирование и изменение конфигурации не входят в набор инструментов первого этапа.
Узкие инструменты диагностики
Разрешите получить метрику за ограниченный интервал, найти события по request ID и прочитать версию сервиса. Сервер проверяет диапазон времени, объём ответа и права. Большие логи агрегируются до передачи модели, чтобы скорость не терялась на повторяющемся тексте.
Правило остановки агента
Агент завершает анализ, когда приоритет обоснован наблюдением и следующий владелец определён, либо когда отсутствуют необходимые данные. Он не должен продолжать вызовы ради уверенного объяснения. Неизвестное состояние эскалируется с перечнем уже выполненных проверок.
Проверка скорости и точности
Воспроизведите поток прошлых сигналов с известными исходами. Измерьте задержку классификации, долю неверных приоритетов, лишние вызовы и пропущенные инциденты. Высокая пропускная способность полезна только при стабильной точности на редких критичных событиях.
Токены и цена одного сигнала
Короткая нормализованная запись обычно важнее максимального контекста. Ограничьте историю последними влияющими событиями и возвращайте компактный JSON. Считайте стоимость всего потока, включая диагностику и эскалации, затем делите на корректно обработанные сигналы. Ставки показаны на странице.
Вопросы и ответы
Для чего подходит Nemotron 3.5 Lightning?
Для быстрых текстовых агентных и специализированных задач, проверенных на данных конкретного продукта.
Что означает 30B-A3B?
NVIDIA указывает 30 млрд общих и около 3 млрд активных параметров в MoE-модели.
Какой контекст у маршрута?
Текущий каталог указывает 262 144 токена.
Можно дать агенту команду перезапуска?
Технически инструмент задаёт приложение, но безопасный диспетчер сначала работает только с чтением и эскалацией.
Как оценить стоимость?
Считайте полную цену потока сигналов и диагностических шагов, а затем стоимость корректно обработанного случая.