Llama Nemotron Embed VL 1B V2 — поиск по PDF

Контекст: 131 072токенов
Результат: Векторные представленияформат ответа
Стоимость: Тариф уточняетсяусловия — в блоке подключения

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "nvidia/llama-nemotron-embed-vl-1b-v2:free",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Официальная карточка NVIDIA относит модель к multilingual visual document retrieval, page image embedding, text embedding и question-answer retrieval. Она принимает текст, изображение страницы или их сочетание и создаёт dense representation для semantic search. Это embedding-компонент, а не OCR или генератор ответа. Tokenmost route `nvidia/llama-nemotron-embed-vl-1b-v2:free` заявляет text/image input, embeddings output и контекст 131072. Preflight подтверждает dimension, normalization, task instruction, image format и size, batch, truncation, usage, quota и цену. Параметры self-hosted custom-code модели нельзя считать гарантией gateway. Эталон включает текстовые вопросы, страницы с таблицами, схемами и одинаковым шаблоном разных кварталов. Для каждой задачи заранее отмечены релевантные страницы; retrieval и последующий reranker оцениваются раздельно.

Соберите индекс страниц

Каждый document соответствует одной странице или слайду. Передайте screenshot и короткий заголовок, если сочетание подтверждено route. Metadata хранит файл, page number, дату, отдел и доступ, чтобы результат открывался в исходном месте.

Проверьте пространство embeddings

Контрольные text и image inputs должны вернуть vectors одинаковой подтверждённой dimension. Зафиксируйте normalization и similarity metric. Другую visual модель нельзя дописывать в эту коллекцию без полной проверки совместимости.

Подготовьте изображения

Обрежьте лишние поля и сохраните читаемость таблиц и легенд. Не превращайте несколько страниц в длинную картинку. Ошибочный или недоступный image отмечается до индексации, а не заменяется пустым vector.

Измерьте смешанный retrieval

Считайте Recall@10 отдельно для text→image, text→text и image→image. Добавьте hard negatives с тем же дизайном, но другими числами. Для top candidates можно применить парный VL reranker, не выдавая его улучшение за качество embeddings.

Рассчитайте стоимость библиотеки

Учтите число страниц, text tokens, image processing, vector storage, обновления и query traffic. Измерьте Free quota и latency. Перед production сравните dimension и цену платного fallback по returned usage Tokenmost.

Вопросы и ответы

Что возвращает Embed VL?

Dense embeddings для visual document retrieval, а не текстовый ответ.

Можно искать текстом по слайдам?

Да, это один из целевых cross-modal retrieval сценариев карточки.

Заменяет ли модель OCR?

Нет, точное извлечение символов и чисел проверяется отдельным компонентом.

Какой контекст показывает Tokenmost?

131072, но фактический multimodal input limit требует вызова.

Почему нужен reranker?

Embedding быстро ищет кандидатов, а cross-encoder может точнее переставить небольшой top K.