pplx-embed-v1-4b API — поиск, размерность и цена

Контекст: 32 000токенов
Результат: Векторные представленияформат ответа
Стоимость: Тариф уточняетсяусловия — в блоке подключения

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "perplexity/pplx-embed-v1-4b",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Официальное руководство указывает для 4B native embeddings размерности 2560, контекст 32K, поддержку MRL от 128 до 2560 и INT8/BINARY output. Instruction prefix не нужен, используется mean pooling. Векторы не нормализованы, поэтому similarity pipeline должен явно учитывать выбранную metric. Общие upstream-ограничения embeddings endpoint: максимум 512 inputs, 120 тысяч токенов суммарно и 32 тысячи на один текст. Tokenmost route может ограничивать запрос иначе. Preflight подтверждает dimensions, encoding, batch, truncation behavior, usage, ошибки и текущую цену перед большой коллекцией. Набор оценки состоит из аннотаций, claims, классификационных кодов и известных экспертом близких документов. Год и юрисдикция используются как metadata, а не как единственный смысловой сигнал.

Разведите abstract и claims

Создайте отдельные vectors для краткого описания и независимых требований. Один embedding всего патента смешивает фон и предмет охраны. Каждый результат сохраняет номер публикации, источник и тип проиндексированной части.

Измерьте пользу 2560 значений

Сначала получите native baseline, затем сравните несколько MRL dimensions при одинаковом corpus. Считайте Recall@20, first relevant rank, storage и latency. Большая размерность оправдана только устойчивой прибавкой на сложных запросах.

Настройте формат similarity

Для float или int8 проверьте normalization и используйте cosine по согласованной схеме. Binary representation сравнивается Hamming distance. Нельзя сопоставлять scores разных encodings одним порогом или смешивать их в коллекции.

Добавьте lexical и CPC фильтры

Semantic retrieval расширяет формулировки, а BM25 удерживает редкие термины и формулы. CPC/IPC, даты и страны помогают сузить кандидатов. Эксперт видит исходные claims; embedding similarity не является заключением о патентоспособности.

Считайте цену исследования

Бюджет включает токены первичной базы, новые публикации, несколько vectors на документ, 2560-мерное хранение и экспертную разметку. Сравнивайте стоимость найденного релевантного кандидата; ставка берётся из Tokenmost usage, а не из upstream прайса. Повторный расчёт нужен после смены размерности.

Вопросы и ответы

Какая размерность pplx-embed-v1-4b?

Native output содержит 2560 значений.

Какой диапазон MRL?

Документация указывает dimensions от 128 до 2560.

Можно отправлять несколько текстов?

Upstream разрешает batch, но фактический лимит Tokenmost проверяется.

Модель подтверждает патентную новизну?

Нет, она находит кандидатов для экспертного анализа.

Почему цена требует preflight?

Розничный тариф, квоты и формат usage Tokenmost могут отличаться от upstream.