Cohere Rerank 4 Fast API — быстрый поиск и цена

Контекст: 32 768токенов
Результат: Ранжированиеформат ответа
Стоимость: Тариф уточняетсяусловия — в блоке подключения

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "cohere/rerank-4-fast",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Cohere описывает `rerank-v4.0-fast` как multilingual light-версию Pro для документов и semi-structured JSON. Rerank получает query и список кандидатов, затем возвращает индексы и relevance scores; он не создаёт документы и не заменяет первый этап retrieval. Официальные best practices ограничивают один запрос максимум 10 000 documents. Tokenmost использует короткий ID `cohere/rerank-4-fast`, text input, rerank output и контекст 32 768. До интеграции проверяются поле query, формат documents, top_n, max tokens per document, truncation, порядок indices, score range, billed units, rate limit и цена. Upstream-название нельзя передавать без mapping route. Кандидаты формируются keyword и vector search, затем Fast переставляет top 50–200. Доступность, регион и цена применяются как детерминированные фильтры, чтобы релевантный, но недоступный товар не стал первым.

Соберите богатый документ товара

Передайте название, категорию, важные свойства и краткое описание в стабильном порядке. JSON полезен, если поля подписаны понятно. Не включайте внутреннюю закупочную цену, секретные признаки и тысячи отзывов, которые размоют основной смысл карточки.

Сохраните широкий retrieval

Reranker видит только переданных кандидатов и не вернёт пропущенный товар. Настройте первый этап на высокий recall, включая точные артикулы и semantic matches. Для разных категорий размер candidate set выбирается по тесту, а не одним числом для всего магазина.

Ограничьте top_n под интерфейс

Возвращайте достаточно результатов для страницы и резерв после бизнес-фильтров. Индекс ответа связывайте с исходным candidate ID, а score используйте для порядка. Абсолютный порог релевантности калибруйте на кликах и ручной разметке.

Измерьте влияние на покупателя

Проверяйте NDCG, MRR, zero-result rate, добавление в корзину и p95 latency. Отдельно оцените запросы по совместимости и ошибочные формулировки. Онлайн-тест не должен менять наличие, цену или sponsored placement без явного правила.

Рассчитайте цену поиска

Включите первый retrieval, число reranked documents, токены или search units, cache и повторные запросы. Fast оправдан, когда улучшает верх выдачи в заданном latency budget. Точную тарификацию Tokenmost подтвердите на малом наборе.

Вопросы и ответы

Чем Rerank 4 Fast отличается от Pro?

Fast — облегчённая multilingual-версия для меньшей задержки; качество сравнивают на своих запросах.

Поддерживает ли модель JSON?

Да, Cohere указывает semi-structured data, но поля должны быть понятными и компактными.

Сколько документов можно передать?

Cohere указывает максимум 10 000, а меньший лимит Tokenmost проверяется отдельно.

Reranker сам ищет по каталогу?

Нет, ему передают candidates, найденные keyword или vector search.

Как считается стоимость?

По подтверждённым billed units, числу кандидатов, первому retrieval и частоте запросов.