GPT-6 Astra Batch API — пакетная обработка и токены

Контекст: 1 050 000токенов
Результат: Текстформат ответа
Вход / выход: 910 ₽ / 4 540 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "openai/gpt-6-astra:batch",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Batch-маршрут сохраняет базовые возможности GPT-6 Astra: вход text/image/file, контекст 1 050 000 токенов, инструменты и структурированный ответ. Пакетный режим меняет способ и сроки выполнения, поэтому его нельзя использовать там, где пользователь ждёт интерактивный ответ или следующий шаг зависит от немедленного результата.

Какие задачи складывать в пакет

Подходят независимые документы с одинаковой схемой результата: извлечение условий, классификация риска, сверка обязательных пунктов. Не объединяйте в один job задачи с разными политиками и владельцами. Для каждой строки сохраните custom ID, версию промпта и ссылку на исходный объект в своей системе.

Подготовка безопасного набора

Удалите дубли, повреждённые файлы и документы вне области политики. Маскируйте персональные данные, если они не нужны проверке. До большого запуска прогоните малую стратифицированную выборку: короткие и длинные документы, сканы разного качества и известные исключения.

Разбор частичных результатов

Пакет может содержать успешные, отклонённые и незавершённые элементы. Сверяйте результат по custom ID, валидируйте схему и повторяйте только безопасные ошибки. Не создавайте новый полный пакет после единичного сбоя: это увеличивает расходы и риск двойной обработки.

Контроль качества документов

Проверьте полноту обязательных полей, привязку вывода к фрагменту договора и долю ложных рисков. Сложные случаи отправляйте юристу, а не автоматически меняйте договор. Храните версию политики, чтобы результат можно было воспроизвести после её обновления.

Токены и цена Batch

Оцените средние входные и выходные токены по каждой группе длины, затем умножьте на число элементов и добавьте резерв на повторы. Ограничивайте ответ строгой схемой и не передавайте одинаковую политику разными формулировками. Используйте ставки именно batch-маршрута в ценовом блоке Токенмоста.

Вопросы и ответы

Для чего нужен GPT-6 Astra Batch API?

Для большого числа несрочных независимых запросов с одинаковой структурой обработки.

Batch отвечает сразу?

Нет. Это асинхронный пакетный сценарий, поэтому он не подходит интерактивному интерфейсу.

Как связать ответы с документами?

Назначайте стабильный custom ID каждому элементу и храните его связь с исходной записью.

Можно повторить весь пакет после ошибки?

Безопаснее повторять только элементы с подтверждённой повторяемой ошибкой, исключая уже принятые результаты.

Как посчитать токены пакета?

Суммируйте usage каждого элемента и повторов, затем применяйте ставки batch-маршрута.