BGE-M3 API — мультиязычные embeddings, токены и цена

Контекст: 8 194токенов
Результат: Векторные представленияформат ответа
Стоимость: Тариф уточняетсяусловия — в блоке подключения

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "baai/bge-m3",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Официальная карточка BGE-M3 описывает поддержку более 100 языков, длину до 8192 токенов и три функции: dense, sparse и multi-vector retrieval. Эти режимы относятся к upstream-модели, но обычный embeddings endpoint может возвращать только dense vector. Tokenmost показывает контекст 8194, поэтому расхождение на два токена фиксируется и проверяется, а не округляется молча. Для `baai/bge-m3` проверяются доступные output fields, размерность dense-вектора, token limit, batch, normalization, sparse weights, ColBERT vectors, usage и цена. Если route не выдаёт sparse или multi-vector representation, страница не должна обещать полноценный hybrid search одним вызовом. Корпус включает русские, английские и китайские названия, артикулы и запросы с опечатками. Отдельно оцениваются cross-language retrieval, точные коды и длинные описания; средняя метрика не скрывает провал одного языка.

Нормализуйте каталог без потери языка

Сохраните оригинальное название, перевод, бренд, артикул и категории отдельными полями. Не переводите весь корпус в один язык до теста: cross-language embeddings могут находить товар напрямую. Единицы измерения и коды оставьте в стандартном виде.

Выберите подтверждённый режим поиска

Dense retrieval подходит для смысла; sparse полезен точным словам, а multi-vector — детальному сопоставлению. Сначала изучите фактическую схему Tokenmost. Недоступный режим можно дополнить BM25 или отдельным reranker, но это уже другой компонент и бюджет.

Ограничьте длинные карточки

Лимит 8192 не означает, что один вектор огромной страницы лучше нескольких тематических chunks. Отделяйте свойства, совместимость и инструкции. Сохраняйте parent SKU, чтобы несколько найденных фрагментов собирались в одну карточку без дублей.

Проверяйте языки и точные совпадения

Для каждого рынка создайте набор запросов с брендами, транслитерацией и разговорными названиями. Измеряйте recall отдельно. Артикулы и размеры должны находиться через keyword-слой даже тогда, когда semantic score предпочитает похожий товар.

Считайте весь гибридный pipeline

Бюджет включает embeddings, sparse index, multi-vector storage при его наличии, reranking и обновления. Сравнивайте стоимость заказа, начавшегося из поиска, долю нулевой выдачи и latency p95. Цена Tokenmost берётся из реального usage.

Вопросы и ответы

Сколько языков поддерживает BGE-M3?

Разработчик заявляет более 100 языков; качество каждого нужного языка проверяется отдельно.

Какой лимит текста?

Upstream указывает до 8192 токенов, а Tokenmost-каталог показывает 8194; фактический предел требует теста.

Что означает M3?

Модель сочетает multilingual, multi-functionality и multi-granularity retrieval.

Всегда ли API возвращает sparse vectors?

Нет, это зависит от endpoint; обычный embeddings route может дать только dense output.

Как считать цену гибридного поиска?

По embedding usage, дополнительным индексам, reranking и стоимости обновления каталога.