NVIDIA · КАТАЛОГ МОДЕЛЕЙ
Switchyard
Switchyard — открытый проект NVIDIA для выбора модели, которая обработает очередной запрос приложения. Его роль — маршрутизация между кандидатами, а не самостоятельная генерация фиксированной нейросетью. Оценивать такой подход следует по результату всей задачи, включая смену модели, задержку, проверки и повторные обращения.
SwitchyardNVIDIA- Контекст
- 1 000 000токенов
- Результат
- Текстформат ответа
- Стоимость
- Тариф уточняетсяусловия — в блоке подключения
ПОДКЛЮЧЕНИЕ
От модели к первому запросу
Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.
const response = await client.chat.completions.create({
model: "nvidia/switchyard",
messages: [{ role: "user", content: "Ваш запрос" }],
});ПОДРОБНЫЙ ОБЗОР
Возможности модели
В Models API этот ID обозначен как Router: text->text, каталоговый контекст 1 000 000 токенов. Реальные top_provider context/output не указаны, supported_parameters пуст. Значение -1 в pricing не является ценой для клиента или бесплатным тарифом. Снимок 3 октября 2026.
Определите, какой вариант Switchyard обсуждается
Официальный репозиторий описывает библиотеку, локальный прокси и интеграции со шлюзами. ID nvidia/switchyard в каталоге — отдельный внешний маршрут; настройки открытого проекта не означают, что клиент этого ID управляет всеми его алгоритмами. Разделите выбор маршрута и исполнение запроса. Для интеграции сначала сопоставьте поддерживаемые форматы конкретного шлюза с требованиями приложения. Наличие ID в каталоге не подтверждает рабочую генерацию через конкретный метод сервиса.
Подберите пул и сравнивайте полную задачу
Для собственного приложения задайте разрешённый список моделей и цель: качество принятого результата, задержка или расход. Простое действие и задача с неоднозначными требованиями могут требовать разных кандидатов. Используйте фиксированную контрольную выборку и сравните роутер с одной базовой моделью. Учитывайте обращения оценщика, повторные ответы и инструменты. Более дешёвый отдельный вызов не гарантирует меньшей стоимости успешно завершённой задачи. В статье не приводятся измеренные проценты экономии или результаты такого сравнения.
Сохраняйте ограничения при смене модели
Маршрутизация должна соблюдать права пользователя, формат результата и допустимый контекст каждого кандидата. В опубликованном снимке supported_parameters пуст, а пределы top_provider не указаны, поэтому нельзя обещать конкретные инструменты, reasoning, строгий JSON или максимальный выход этого внешнего ID. Указанный миллион токенов — каталоговая характеристика маршрута, не гарантия всех выбранных моделей. Если альтернативный кандидат не поддерживает обязательное свойство запроса, используйте контролируемый отказ вместо незаметной потери функции. Проверяйте доступ к исходным данным до отправки.
Проверяйте решения и повторы по журналу
В собственной интеграции фиксируйте выбранную модель, версию правил, причину переключения и итоговый статус, если эти данные доступны вашему шлюзу. Не утверждайте наблюдаемость внутренних решений внешнего маршрута без подтверждённого ответа API. Для операций с побочными эффектами отдельно защищайте повторное исполнение функции: смена генератора не должна повторно оформить заказ. Считайте стоимость по фактически выбранному тарифу и журналу, а не по значению -1 из каталога. На этой карточке нет нового клиентского тарифа, настройки роутера или обещания автоматической экономии.
Вопросы и ответы
Switchyard — отдельная языковая модель?
Это роутер, выбирающий кандидата для обработки запроса. Качество зависит от пула моделей, правил выбора и окружающего приложения.
Что означает pricing -1?
Это не положительная фиксированная ставка и не нулевой тариф. Нельзя использовать это значение для расчёта клиентской цены Tokenmost.
Все выбранные модели примут миллион токенов?
Такой гарантии нет. Каталоговый контекст маршрута не заменяет ограничения конкретного кандидата, а top_provider limits в снимке не указаны.
Роутер гарантирует экономию?
Нет. Сравните расход успешно завершённой задачи с одной базовой моделью, включая работу оценщика, повторы и инструменты. Заявленная цель маршрутизации не заменяет измерение на ваших задачах.