Claude Sonnet 5 Batch API — аудит диалогов и токены

Контекст: 1 000 000токенов
Результат: Текстформат ответа
Вход / выход: 190 ₽ / 910 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "anthropic/claude-sonnet-5:batch",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Маршрут anthropic/claude-sonnet-5:batch заявляет контекст 1 000 000 токенов на один запрос, максимальный текстовый ответ 128 000 токенов, текст, изображения и файлы на входе, tools, structured outputs и reasoning_effort low, medium, high, xhigh и max. Reasoning включён по умолчанию, но не является обязательным свойством маршрута.

Чем аудит отличается от ответа клиенту

Обычный Sonnet 5 можно использовать для черновика ответа по найденному правилу. Batch-страница решает последующую задачу: проверить множество состоявшихся диалогов по единой редакции критериев. Результат не показывается клиенту автоматически и не должен менять обращение задним числом; он формирует очередь исправлений базы знаний и процессов поддержки.

Сценарий: ночной контроль диалогов поддержки

Для каждого диалога передайте обезличенный текст, актуальную на момент ответа редакцию справочника и правила обязательной эскалации. Попросите отметить только проверяемые нарушения: утверждение без основания, неверный следующий шаг, пропущенный вопрос или случай, который должен был перейти специалисту. Для каждого замечания нужен фрагмент диалога и соответствующее правило.

Связывайте задание с ID диалога и версией справочника; сегодняшнее правило нельзя применять к разговору, который состоялся до его публикации.
Отделяйте ошибку факта от стилистического предпочтения, чтобы косметические замечания не скрывали риск для клиента.
Не используйте автоматическую метку как единственное основание для оценки сотрудника; сначала проверяйте контекст и критерий человеком.

Идентификаторы, версии и полнота выборки

Назначьте каждому заданию устойчивый ID и сохраните период разговора, канал и редакцию правил. Результаты пакетной обработки могут приходить не по порядку, поэтому сопоставляйте их по ID. После завершения проверьте отсутствующие, повторные и неизвестные записи, а также распределение по типам обращений: случайная выборка не всегда покрывает редкие эскалации.

Частичные ошибки и ручная проверка

Технически успешный ответ ещё может не пройти редакционный контроль. Храните отдельно статус API, найденные замечания и решение проверяющего. Повторяйте только неуспешные или спорные ID с новой версией инструкции. Если критерий изменился, создайте новую серию, чтобы результаты разных правил не смешались в одном отчёте.

Контракт Batch API перед автоматизацией

Прямой Message Batches API Anthropic описывает асинхронную обработку независимых запросов и сопоставление через custom_id. Для маршрута Токенмоста отдельно подтвердите endpoint, статусы, формат результатов, отмену, срок ожидания и правила хранения. Наличие суффикса :batch не доказывает, что любой чат-клиент умеет управлять пакетным заданием.

Цена токенов одного проверенного диалога

Учитывайте текст разговора, нужные разделы справочника, инструкцию, reasoning, ответ и повторные попытки. Разделите общие расходы на число диалогов, по которым проверяющий принял вывод. Для бюджета используйте ставки этой Batch-карточки; процент скидки и цены прямого сервиса Anthropic не подменяют розничный тариф Токенмоста.

Вопросы и ответы

Можно ли использовать Sonnet 5 Batch для ответа в чате?

Пакетный режим рассчитан на отложенные независимые задания. Для ответа в текущем разговоре нужен обычный интерактивный маршрут.

Какие данные нужны для аудита диалога?

Нужны обезличенный разговор, действовавшая редакция справочника и ясные правила проверки. Без основания модель не должна придумывать правильный ответ.

Можно ли оценивать сотрудников по автоматическим меткам?

Автоматический вывод следует использовать как сигнал для ручной проверки процесса. Контекст разговора и применимость правила должен подтвердить человек.

Почему важна версия базы знаний?

Правила меняются. Ответ нужно сравнивать с информацией, доступной на момент разговора, иначе корректный исторический ответ может получить ложное замечание.

Сохраняется ли порядок результатов?

В прямом Batches API Anthropic порядок не гарантируется. Сопоставляйте каждую запись с исходным диалогом по устойчивому идентификатору.

Как считать стоимость токенов Sonnet 5 Batch?

Сложите фактический вход и выход всех попыток по ставкам карточки. Делите расход на число диалогов с принятым результатом, а не только на количество отправленных заданий.