all-mpnet-base-v2 API — semantic search и цена

Контекст: 512токенов
Результат: Векторные представленияформат ответа
Стоимость: Тариф уточняетсяусловия — в блоке подключения

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "sentence-transformers/all-mpnet-base-v2",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Официальная карточка Sentence Transformers предназначает модель для clustering и semantic search sentences и paragraphs. Она возвращает 768-мерный dense vector; более длинные входы обрезаются до 384 word pieces. Публичные benchmark scores служат ориентиром, но не заменяют оценку на терминологии конкретной библиотеки. Маршрут Tokenmost `sentence-transformers/all-mpnet-base-v2` должен подтвердить text input, форму embeddings, normalization, размер batch, порядок ответов, обработку длины, usage и цену. Embedding не проверяет достоверность статьи, качество журнала или право доступа к полному тексту. Эталон строится из пар аннотаций, которые эксперт считает полезными друг для друга. В negatives включаются работы с одинаковым методом, но иной популяцией, и статьи с похожим названием, но противоположным выводом.

Индексируйте аннотации, а не PDF целиком

Соберите название, abstract и ключевые слова в один ограниченный текст. Авторы, DOI, год и предметная область остаются metadata. Полный документ слишком длинный и может смешать методы, результаты и список литературы в одном vector.

Зафиксируйте схему коллекции

Создайте поле на 768 значений и сохраните точный model ID. Перед массовой загрузкой проверьте норму vector и выбранную metric. Новую модель или иной pooling нельзя подключать к старым embeddings без полной переиндексации.

Добавьте библиографические фильтры

Semantic nearest neighbours ограничиваются языком, годом, типом публикации и тематикой пользователя. Точные DOI и фамилии ищутся лексически. Такой hybrid pipeline уменьшает красивые, но бесполезные рекомендации из другой дисциплины.

Оцените рекомендации экспертами

Для каждой исходной статьи специалисты отмечают полезность top 5 без названия модели. Считайте precision, coverage и долю опасных тематических подмен. Отдельно проверяйте новые материалы, которых не было при настройке порога.

Свяжите токены с пользой

Бюджет включает первичную коллекцию abstracts, новые поступления, повторную индексацию, 768-мерное хранение и поиск. Сравнивайте стоимость одной принятой рекомендации, а тариф API фиксируйте по фактическому usage Tokenmost. Отдельно учитывайте удаление отозванных публикаций и пересчёт соседей после обновления metadata.

Вопросы и ответы

Какой размер embedding?

Модель возвращает 768-мерный vector.

Можно отправить длинную статью?

Upstream ограничивает ввод 384 word pieces, поэтому лучше использовать отдельные смысловые части.

Модель проверяет научное качество?

Нет, она оценивает близость текста; качество задают metadata и редакционные правила.

Подходит ли cosine similarity?

Да, после проверки normalization и контракта конкретного route.

Из чего складывается цена?

Из токенов индексации и обновлений, запросов, хранения и контроля рекомендаций.