GTE Large API — embeddings для базы знаний и цена

Контекст: 512токенов
Результат: Векторные представленияформат ответа
Стоимость: Тариф уточняетсяусловия — в блоке подключения

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "thenlper/gte-large",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Официальная карточка семейства указывает для GTE Large 24 слоя, embedding dimension 1024 и sequence length 512 токенов. Модель обучена на relevance pairs и применяется к information retrieval, semantic textual similarity и reranking. Поддержка обозначена как English-only, поэтому русский интерфейс сам по себе не делает корпус многоязычным. Tokenmost показывает route `thenlper/gte-large` с text input и embeddings output. Preflight подтверждает размер vector, normalization, batch, порядок результатов, предел текста, ошибки, token usage и текущую цену. Переход с GTE Base требует нового индекса, даже если документы не изменились. Эталон включает вопросы дежурных инженеров, runbooks, устаревшие версии и документы с близкими названиями. Для критичных операций отмечается не только релевантность, но и действующая редакция.

Разделите базу по процедурам

Каждый chunk содержит одну операцию, условия запуска и предупреждения. Заголовок, сервис, владелец и дата проверки сохраняются рядом. Списки команд не разрываются посередине, а общий шаблон навигации исключается из embedding текста.

Подготовьте 1024-мерную коллекцию

Проверьте точную длину output и норму vectors, после чего зафиксируйте cosine или другую подтверждённую metric. Старые Base embeddings остаются в контрольной коллекции. Смешивать оба пространства в одном ANN-индексе нельзя.

Учитывайте версию документа

Сначала фильтруйте сервис, среду и статус публикации, затем ранжируйте passages. Архивный runbook может быть семантически идеальным, но опасным. В ответе показывайте ссылку, владельца и дату последней проверки.

Сравните Large и Base

Одинаковые queries оцениваются по Recall@5, MRR, критическим промахам и latency p95. Эксперт видит тексты без названия модели. Большая версия выигрывает только при устойчивом снижении ошибок на отложенном месяце.

Посчитайте стоимость надёжности

В бюджет входят токены всех действующих runbooks, ежедневные изменения, query traffic, 1024-мерное хранение и ревизия качества. Сравните доплату Large с числом исправленных критичных запросов; тариф Tokenmost сверяется по usage.

Вопросы и ответы

Какая размерность GTE Large?

1024 измерения согласно model card.

Какой контекст у модели?

Официальная карточка указывает sequence length 512 токенов.

Можно использовать русский корпус?

Модель заявлена как English-only; для русского требуется отдельная измеренная схема.

Совместим ли индекс с GTE Base?

Нет, Base и Large создают разные пространства и размерности.

Когда оправдана Large?

Когда слепой тест показывает полезное снижение ошибок с учётом цены и задержки.