OPENAI · КАТАЛОГ МОДЕЛЕЙ
GPT-6 Luna (batch) API
GPT-6 Luna (batch) — вариант для отложенной обработки набора независимых заданий. Он не предназначен для синхронного ответа пользователю в чате. Здесь важно понять различие между моделью Luna и способом доставки результата: качество следует оценивать на той же проверочной выборке, а время получения пакета — отдельно.
GPT-6 Luna (batch)OpenAI- Контекст
- 1 050 000токенов
- Результат
- Текстформат ответа
- Стоимость
- Тариф уточняетсяусловия — в блоке подключения
ПОДКЛЮЧЕНИЕ
От модели к первому запросу
Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.
const response = await client.chat.completions.create({
model: "openai/gpt-6-luna:batch",
messages: [{ role: "user", content: "Ваш запрос" }],
});ПОДРОБНЫЙ ОБЗОР
Возможности модели
Каталог моделей указывает окно контекста 1 050 000 токенов. Входные форматы: file, image, text; выходные: text.
Что подходит для пакета
Например, ночная классификация накопленных обращений, где каждому письму заранее назначен свой ID. После выполнения сопоставьте результат с исходным ID и проверьте ошибки отдельными записями. Не объединяйте все письма в один промпт, если нужно восстановить результат каждого обращения.
Ограничение маршрута
Обычный Chat Completions ожидает ответ в текущем соединении, тогда как batch имеет отдельный жизненный цикл заявки и получения результата. Наличие batch-ID в каталоге не подтверждает, что Tokenmost уже предоставляет клиентский API для пакетов.
Сравнение с Luna
Для немедленного ответа оператору нужен обычный маршрут Luna. При отложенной обработке сравнивайте общую стоимость и время доставки пакета, включая повтор ошибок. Розничные условия Tokenmost для batch не опубликованы автоматически.
Вопросы и ответы
Можно ли заменить модель чата на Luna batch одним ID?
Нет. Пакетный режим требует отдельной отправки заданий и получения результата. Использовать его как обычный синхронный ответ нельзя без соответствующего API.