gpt-oss-20b API — edge-классификация и токены

Контекст: 131 072токенов
Результат: Текстформат ответа
Вход / выход: 10 ₽ / 30 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "openai/gpt-oss-20b",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Официальная карточка указывает 21 млрд параметров, 3,6 млрд активных, Apache 2.0, configurable reasoning, function calling и structured outputs. Модель текстовая, контекст — 131 072 токена. Заявленная пригодность для локальных сценариев не гарантирует нужную скорость на любом оборудовании; измерения проводят на своём формате и нагрузке.

Определите устойчивую схему категорий

Категории отражают реальные очереди и действия, а не удобные абстрактные темы. Для каждого класса задайте признаки, исключения и примеры на границе. Версия схемы сохраняется с ответом, чтобы изменение правил не смешало старую и новую статистику.

Возвращайте структурированный результат

Ответ содержит класс, уверенность, извлечённые идентификаторы и причину эскалации. Поля валидируются до записи. Неизвестный продукт или противоречивое сообщение отправляются в общую очередь вместо насильственного выбора ближайшего допустимого значения.

Не давайте классификатору лишние права

Модель не закрывает тикет и не возвращает деньги. Приложение выбирает маршрут по проверенному результату и отдельным бизнес-правилам. Любое финансовое действие требует подтверждения исходных данных, идемпотентности и обычного контроля доступа.

Проверьте качество по очередям

Размеченный набор делят по языкам, длине и редким категориям. Измеряйте precision и recall для каждого критичного класса, долю ручной очереди и задержку. Общая accuracy может скрыть пропуск немногочисленных, но дорогих платёжных обращений.

Токены и экономика малого маршрута

Короткая задача не требует полного контекста модели. Передавайте само обращение, компактную политику и необходимые данные клиента. Оценивайте цену тысячи корректно маршрутизированных тикетов с учётом повторов, ручной проверки и инфраструктуры, если веса развёрнуты самостоятельно. Отдельно считайте пиковую очередь, потому что среднее значение скрывает задержку в часы высокой нагрузки.

Вопросы и ответы

Что принимает gpt-oss-20b API?

Маршрут принимает текст и возвращает текст.

Какой контекст указан?

Контекст модели составляет 131 072 токена.

Поддерживается ли structured output?

Да, OpenAI указывает поддержку структурированных ответов.

Подходит ли модель для изображений?

Нет, официальная карточка и маршрут указывают только текст.

Как оценить выгоду?

Сравните стоимость, задержку и точность маршрутизации на размеченных обращениях.