MISTRAL · КАТАЛОГ МОДЕЛЕЙ
Mistral Large 3 Batch API
Пакетный вариант Mistral Large 3 можно рассматривать для задач, в которых результат не требуется во время живого диалога. Например, для разметки накопленного архива обращений по рубрикам. В таком процессе важны полнота результата и возможность восстановить обработку отдельных записей. Эта карточка объясняет подготовку партии; точный способ отправки, сроки и условия расчёта нужно сверить с выбранным подключением до запуска.
- Контекст
- 262 144токенов
- Результат
- Текстформат ответа
- Вход / выход
- 50 ₽ / 140 ₽за 1 млн токенов
ПОДКЛЮЧЕНИЕ
От модели к первому запросу
Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.
const response = await client.chat.completions.create({
model: "mistralai/mistral-large-2512:batch",
messages: [{ role: "user", content: "Ваш запрос" }],
});Открыть инструкцию по подключению →ПОДРОБНЫЙ ОБЗОР
Возможности модели
Суффикс :batch обозначает отдельный вариант подключения Large 3, а не новое поколение модели. В каталоге у него указан контекст 262 144 токена, текстовый результат и поддержка текстовых и визуальных входных материалов. Контекст одного запроса не является лимитом суммарного размера всей партии.
Архив обращений: сначала проверьте правила разметки
Определите рубрики и признаки, по которым обращение относится к каждой из них. Перед большой партией разберите небольшую выборку: обычное сообщение, пересечение двух тем и запись без достаточных сведений. Дайте отдельное значение для неоднозначного случая. Иначе формально заполненная таблица будет скрывать догадки. Сохраните редакцию инструкции вместе с исходным набором, чтобы позже сравнивать партии, обработанные по одним правилам. Исправление списка рубрик после запуска не должно незаметно менять смысл уже полученных меток.
- Не смешивайте разные редакции инструкции в одной итоговой таблице.
- Предусмотрите метку для недостаточных данных.
- Проверяйте примеры из редких рубрик, а не только частые обращения.
Идентификатор связывает ответ с исходной записью
Назначьте каждой записи устойчивый идентификатор и проверьте его уникальность до отправки. В документации пакетной обработки Mistral для этой связи используется custom_id. Ваше приложение должно сопоставлять результаты по идентификаторам, а не предполагать одинаковый порядок строк во входе и выходе. После получения результатов сравните множества исходных и возвращённых идентификаторов: найдите отсутствующие, повторные и неизвестные записи. Равное количество строк само по себе не доказывает, что обработан весь нужный архив.
Частичные ошибки и повторная обработка
Отделите технически неуспешные записи от ответов, которые получены, но не прошли проверку разметки. Причины повторной попытки у них разные. Для первой группы проверьте сообщение об ошибке; для второй исправьте входные сведения или инструкцию. Сохраните номер попытки и связь с первоначальной записью. Не отправляйте всю партию повторно только из-за нескольких пропусков. Если статус задания ещё не ясен, сначала получите подтверждение завершения: повтор может создать лишнюю обработку и затруднить сверку затрат.
API партии и ключ: одного суффикса недостаточно
Точный идентификатор — mistralai/mistral-large-2512:batch. Платформа Mistral описывает создание пакетного задания и получение файлов результатов и ошибок, но это не означает, что любой клиент поддерживает такой же контракт. До подключения уточните способ передачи партии, проверку статуса, получение результатов и правила повторов. Обычная форма чата или агент с текстовым API не обязаны предоставлять управление заданиями. Ключ храните в серверных настройках обработчика; не включайте его в строки архива и файлы результатов.
Стоимость токенов на проверенную запись
Оцените общий вход и выход, затем добавьте повторные попытки и ручную проверку спорных меток. Разделите расход на число записей, принятых по вашим правилам, а не на количество отправленных строк. Для покупки токенов используйте опубликованный тариф именно Batch-подключения. Скидку другой платформы нельзя автоматически считать скидкой Токенмоста. Сравнение с обычным Large 3 имеет смысл при одинаковых инструкциях и критериях качества; допустимое ожидание результата является отдельным условием выбора пакетного режима.
Вопросы и ответы
Batch — это другая модель Large 3?
Это вариант подключения базовой Large 3. Суффикс сам по себе не означает другие веса, более высокое качество или новый контекст.
Подойдёт ли Batch для ответа посетителю в чате?
Для живого диалога обычно нужен ответ в текущем взаимодействии. Пакетный процесс выбирают, когда допустимо отдельно дождаться результатов задания.
Зачем нужен идентификатор каждой строки?
Чтобы связать результат с исходной записью, обнаружить пропуски и безопасно подготовить повторную обработку. Порядок строк не заменяет эту связь.
Завершённое задание означает, что все метки верны?
Нет. Завершение обработки и качество разметки проверяются отдельно. Нужны сверка состава результатов и контроль содержимого на выборке.
Есть ли гарантированная скидка на Batch?
Условия определяются опубликованным тарифом конкретного подключения. Нельзя переносить процент скидки из документации другого сервиса без подтверждения.
Сравните с другими моделями
- Mistral: Mistral Large 3 2512 — основная карточка Large 3 для сравнения режима получения результата