GPT-4 Turbo Batch API — архив и миграция

Контекст: 128 000токенов
Результат: Текстформат ответа
Вход / выход: 910 ₽ / 2 730 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "openai/gpt-4-turbo:batch",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Базовая GPT-4 Turbo помечена OpenAI deprecated. Tokenmost Batch route принимает текст и изображения, возвращает текст и указывает окно 128 000 токенов. Файлы не заявлены. Перед контрольным прогоном проверяют доступность, очередь, тариф и способ безопасно получить частичные ошибки. Queue-preflight сохраняет document ID, hash, page mapping, idempotency key, срок результата и usage. Отдельно проверяются отмена незапущенного задания и повтор одной ошибки без дублирования записей.

Снимите manifest старой очереди

Для каждого элемента сохраните document ID, хеш, preprocessing, prompt и итог. Пропущенные и ошибочные задания входят в baseline. Без этого новая система может выглядеть лучше только потому, что сравнивает другой набор.

Подготовьте одинаковый вход

Документы превращаются в те же текстовые или визуальные фрагменты для обеих моделей. Порядок и разрешение фиксируются. Если новый route принимает файлы напрямую, это отдельный вариант эксперимента с собственной метрикой.

Сравните результат по полям

Reviewer проверяет класс, дату, тип документа и ссылку на страницу без знания модели. JSON валидируется. Различие стиля ответа не важно, если контракт сохранён; неверное поле не скрывается общим средним баллом.

Переключите очередь без потери заданий

Новые jobs направляются в современный маршрут после контрольной точки. Выполняющиеся старые получают завершиться или отменяются по явному правилу. Idempotency key предотвращает двойную запись при повторной доставке результатов.

Токены и цена вывода из эксплуатации

В бюджет входят двойные задания, входные изображения, ответы, retry и review. После миграции стоимость старого маршрута должна стать нулевой. Считайте цену принятого документа и срок окупаемости изменения pipeline.

Вопросы и ответы

Почему GPT-4 Turbo Batch не для нового проекта?

Базовая модель deprecated; сначала проверяют поддерживаемый batch route.

Какой контекст указан?

128 000 токенов.

Можно отправлять файлы напрямую?

Текущая карточка указывает текст и изображения, поэтому формат нужно проверить.

Как избежать двойной записи?

Использовать стабильный document ID и idempotency key при переключении очередей.

Как оценить цену?

По принятому документу и полным расходам двойной миграционной обработки.