Найдены чужие документы
Фильтруйте права до поиска и повторно перед отправкой модели.
Планируется
RAG: ответы по своей базе с проверяемыми источниками
Как собрать RAG в своём приложении из доступа к документам, поиска, контекста и открытого текстового API.
API Токенмоста работает
Базовый адрес — https://tokenmost.ru/v1. Создайте ключ в личном кабинете, выберите модель в каталоге и отправьте первый запрос. Методы, которые ещё не доступны, отмечены отдельно.
Как это устроено
Серверный RAG-продукт Токенмоста пока не открыт. Рабочий сценарий можно собрать у себя: проверить права, найти фрагменты своей базой и передать их в открытый Chat Completions как ограниченный контекст. Модель не должна получать недоступные пользователю документы.
Что потребуется
- База документов с источниками, страницами и правами доступа.
- Поиск по тексту либо собственный векторный индекс.
- Текстовая модель с доступным Chat Completions и тестовый бюджет.
Порядок работы
- Разбейте документы на небольшие фрагменты и сохраните связь со страницей.
- Проверьте права текущего пользователя до поиска и передачи текста модели.
- Найдите несколько релевантных фрагментов и ограничьте общий контекст.
- Передайте вопрос и пронумерованные фрагменты в Chat Completions как данные.
- Попросите ответ только по источникам и разрешите ответ «не найдено».
- Сверьте каждую ссылку на документ с оригиналом и проверьте расход токенов.
Готовая конфигурация
Контекст, который собирает ваше приложение
{
"question": "Как пополнить баланс?",
"sources": [
{
"id": "billing:1",
"page": 1,
"text": "Проверенный фрагмент",
"accessScope": "project-1"
}
]
}Что учесть
RAG можно реализовать на своей стороне уже сейчас через текстовый API. Отдельный серверный RAG-сервис Токенмоста не заявляется как доступный.
Ожидаемый результат
Ответ ссылается на допустимые источники; если данных нет, приложение не заставляет модель угадывать. Связь с документом проверяема.
Ограничение сейчас
JSON — локальный контекст. Токенмост не хранит ваш индекс и не выполняет публичный RAG-маршрут. Embeddings/Rerank API также пока закрыты.
Расходы
Поиск и индекс оплачиваются вашей инфраструктурой; переданные фрагменты увеличивают входные токены Chat Completions.
Ошибки и диагностика
Модель выдумала источник
Проверяйте IDs ответа по фактически переданному списку.
Контекст слишком велик
Оставьте меньше фрагментов и ограничьте их длину.
Публичный метод не отвечает
Этот маршрут ещё не открыт для внешних ключей. Не повторяйте платные запросы вслепую; проверьте /docs/api-reference.
Стоимость неизвестна
Не считайте технический маршрут готовым тарифом. Дождитесь опубликованной цены и проверьте баланс до первого запроса.