all-MiniLM-L12-v2 API — embeddings, токены и цена

Контекст: 512токенов
Результат: Векторные представленияформат ответа
Стоимость: Тариф уточняетсяусловия — в блоке подключения

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "sentence-transformers/all-minilm-l12-v2",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Официальная карточка описывает dense vectors размерности 384 для semantic search и clustering. Архитектура использует 12 слоёв MiniLM, а текст длиннее 256 word pieces обрезается. Число 12 в названии не означает контекст 12 тысяч токенов и само по себе не гарантирует лучший результат, чем L6. Tokenmost публикует route `sentence-transformers/all-minilm-l12-v2` с text input и embeddings output. До загрузки архива проверяются фактические dimension, normalization, batch order, предел ввода, empty input, usage и розничная цена. Ответ модели — числа, а название кластера создаёт отдельный компонент. Контрольная разметка включает одинаковые события из разных изданий, продолжения старых сюжетов и тексты с совпадающими персонами, но разными поводами. Порог выбирается на development-наборе и проверяется на отложенной неделе.

Подготовьте новостную единицу

Соедините заголовок с первым содержательным абзацем, удалите меню и подписи. Сохраните дату, источник и URL в metadata. Если важное уточнение находится после лимита, составьте короткую выжимку правилами редакции до отправки, не полагаясь на скрытую обрезку.

Создайте 384-мерный индекс

Один контрольный запрос подтверждает длину vector и способ normalization. Все новости одного эксперимента кодируются одной версией модели. При замене модели создаётся новая коллекция, поскольку расстояния между разными embedding spaces сравнивать нельзя.

Группируйте внутри временного окна

Сначала ограничьте кандидатов датой и языком, затем примените cosine similarity. Это снижает риск склеить ежегодные отчёты или повторяющиеся заявления. Кластер хранит главный материал и ссылки на дополнения, но не удаляет оригиналы.

Сравните L12 с L6

Запустите обе версии на одинаковой неделе и измерьте pair precision, pair recall, число ошибочных объединений и latency p95. Редакторы отдельно просматривают крупные кластеры. L12 выбирается только при полезном улучшении качества.

Посчитайте рабочую стоимость

Учтите первичную обработку, ежедневные токены, повторное кодирование исправлений, vector storage и ручной разбор спорных групп. Ставку Tokenmost подтвердите небольшим batch и сверкой usage, прежде чем загружать архив.

Вопросы и ответы

Какая размерность vector?

Официальная карточка указывает 384 измерения.

Для чего подходит модель?

Для semantic search, similarity и clustering коротких текстов.

Какой upstream-лимит?

Текст после 256 word pieces обрезается согласно model card.

L12 всегда лучше L6?

Нет, преимущество проверяется на своём наборе и с учётом задержки.

Как узнать цену?

Отправить контрольный batch и сверить токены, usage и действующий тариф Tokenmost.