токенмостAPIИзучить API
Скоро · предварительная инструкция

RAG: ответы по своей базе

Как объединить поиск, ранжирование и генерацию.

Готовимся к запуску API

Каталог и цены уже доступны. Подключение и генерация готовятся. Инструкции с отметкой «Скоро» описывают подготовку: окончательные настройки будут подтверждены при запуске.

Как это устроено

RAG добавляет найденные документы к вопросу пользователя. Модель получает релевантный контекст, а приложение может показать источники ответа.

Порядок работы

  1. Разбейте базу на фрагменты и постройте векторный индекс.
  2. Найдите кандидатов и при необходимости выполните rerank.
  3. Передайте лучшие фрагменты в чат с просьбой отвечать только по ним и указывать источники.

Что учесть

Если подходящих материалов нет, лучше сообщить об этом, чем заполнять пробелы догадками. Доступ к документам проверяйте до поиска и передачи контекста.

Читайте дальше

← Все инструкции