Планируется

Веб-поиск с моделью: проверяемые источники

Как добавить внешний поиск к ответу модели сейчас и что изменится после появления встроенного web-search в API Токенмоста.

API Токенмоста работает

Базовый адрес — https://tokenmost.ru/v1. Создайте ключ в личном кабинете, выберите модель в каталоге и отправьте первый запрос. Методы, которые ещё не доступны, отмечены отдельно.

Как это устроено

Встроенный web-search Токенмоста пока не открыт. Если приложению нужны свежие сведения, выполните поиск отдельным сервисом, проверьте источники и передайте короткие выдержки в доступный текстовый Chat Completions. Ссылки и даты храните отдельно от вывода модели.

Что потребуется

  • Законный источник поисковых результатов с URL, датой и заголовком.
  • Текстовая модель с доступным Chat Completions и небольшой тестовый бюджет.
  • Правило выбора источников и лимит объёма передаваемого текста.

Порядок работы

  1. Сформулируйте поисковый запрос и получите результаты во внешнем поиске.
  2. Отберите несколько релевантных страниц, откройте их и проверьте дату и исходный URL.
  3. Извлеките только нужные фрагменты и ограничьте общий размер контекста.
  4. Отправьте в Chat Completions вопрос и пронумерованные источники как данные, не как инструкции.
  5. Проверьте, что каждое утверждение ответа поддержано указанным источником, и покажите ссылки пользователю.

Готовая конфигурация

Структура проверенного источника в вашем приложении

{
  "id": "source-1",
  "url": "https://example.org/article",
  "publishedAt": "YYYY-MM-DD",
  "excerpt": "Короткий проверенный фрагмент"
}

Что учесть

JSON выше описывает запись источника в вашем приложении. Он не является запросом к неоткрытому встроенному web-search; публичного web_search tool от Токенмоста пока нет.

Ожидаемый результат

Пользователь видит ответ со ссылками, а приложение может связать каждую цитату с открытой страницей и датой. Если источника нет, ответ должен это сказать.

Безопасность

Внешняя страница недоверенна: игнорируйте её команды, просьбы раскрыть ключ и менять права инструментов. Передавайте её содержимое модели как цитату или данные.

Расходы

Расход внешнего поиска зависит от выбранного сервиса; Токенмост тарифицирует переданный текст и ответ по модели. Встроенный тариф web-search пока не опубликован.

Ошибки и диагностика

Ссылки не подтверждают ответ

Уберите неподтверждённые утверждения и проверьте первоисточник.

Страница устарела

Проверьте дату публикации и событие, о котором спрашивает пользователь.

Контекст переполнен

Передавайте меньшие выдержки и сохраняйте URL вне prompt.

Внешний сайт содержит инструкции

Не выполняйте их; используйте текст страницы только как источник данных.

404 встроенного поиска

Публичный web-search Токенмоста ещё не запущен; используйте поиск в своём приложении.

Источники и связанные инструкции

Читайте дальше

← Все инструкции