GPT-3.5 Turbo Batch API — теги архива и токены

Контекст: 16 385токенов
Результат: Текстформат ответа
Вход / выход: 50 ₽ / 140 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "openai/gpt-3.5-turbo:batch",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

OpenAI описывает GPT-3.5 Turbo как legacy-модель с контекстом 16 385 и максимумом ответа 4 096 токенов и рекомендует GPT-4o Mini вместо неё. Tokenmost Batch route показывает тот же контекст, текстовый ввод и вывод. Срок, скидка и лимиты прямого OpenAI Batch API не являются условиями Tokenmost. Preflight проверяет actual model ID, схему строки, usage, stop reason, срок обработки и идемпотентный retry. Контрольный архив содержит устаревшую статью, две темы, юридическое исключение, навигационную страницу и документ без достаточного контекста. Таксономия имеет версию и fallback. Каждая строка возвращает document ID, labels и evidence span. Валидатор запрещает новый тег и проверяет наличие цитаты. Пустой ответ, корректное отсутствие темы и технический сбой получают разные статусы. Разметка хранится как черновой индекс и не переписывает исходный текст. Перед использованием в поиске выборку проверяет редактор, а современная модель сравнивается на том же корпусе, поскольку legacy route не должен становиться новой постоянной зависимостью.

Версионируйте словарь тем

Для каждого тега задаются определение, включения и исключения. Архив обрабатывается одной версией словаря. Если категории изменились посреди очереди, создаётся новая ревизия, а результаты не смешиваются в одном индексе.

Требуйте фрагмент доказательства

Label сопровождается точной выдержкой из документа. Заголовок сам по себе недостаточен, если содержание относится к другой теме. При отсутствии доказательства система принимает fallback и отправляет запись редактору.

Не меняйте опубликованный архив

Результат сохраняется в отдельной таблице разметки. Удаление, редирект и правка статьи требуют редакционного процесса. Модель не назначает canonical и не скрывает материал только потому, что считает его устаревшим.

Проверяйте редкие категории

Контрольная выборка стратифицируется по темам, датам и длине. Считайте precision, recall, fallback и ручные исправления. Высокая точность частой категории не компенсирует пропуск редкого юридического или платёжного документа.

Токены и цена принятой разметки

В расход входят документ, инструкция, ответ, отклонённые строки и review. Не объединяйте несколько статей в одно задание. Сравнивайте стоимость записи, принятой в индекс, по текущему биллингу Tokenmost.

Вопросы и ответы

Для чего использовать GPT-3.5 Turbo Batch?

Только для существующих массовых текстовых процессов с планом миграции.

Какой контекст указан?

16 385 токенов.

Batch гарантирует скидку?

Нет без опубликованных условий конкретного маршрута Tokenmost.

Модель удаляет устаревшие статьи?

Нет, она создаёт отдельную разметку для редактора.

Как считать цену?

По записи, принятой после валидации и выборочного review.