РУКОВОДСТВО · ОБНОВЛЕНО 2026-09-15
Fine-tuning или RAG: что выбрать для своей базы
RAG подаёт найденные знания во время запроса, а fine-tuning меняет устойчивое поведение модели на примерах; они решают разные проблемы.
Выбирайте RAG для актуальных фактов и документов, которые нужно цитировать и обновлять. Fine-tuning полезен для стабильного формата, стиля или повторяемого поведения при наличии качественных примеров. Сначала исправьте prompt и evals; при необходимости сочетайте tuned-модель с retrieval.
1. Диагностируйте проблему
Если ответ не знает свежий тариф или пункт договора, нужен доступ к источнику. Если модель знает данные, но нестабильно соблюдает формат или тон, рассматривают examples и tuning. Плохой prompt, неверная модель или слабый retrieval не исправляются автоматически дорогим обучением. Соберите ошибки по категориям до выбора технологии.
2. Оцените RAG
Документы индексируются, поиск выбирает фрагменты, а модель отвечает с контекстом. Обновление базы не требует переобучения, можно показывать цитаты и применять фильтры прав. Цена — инфраструктура индекса и отдельные ошибки retrieval. Проверяйте chunking, metadata, recall, no-answer и конфликтующие версии источников.
3. Оцените fine-tuning
Нужны чистые репрезентативные пары вход/ожидаемый выход и отдельный validation set. Обучение может повысить устойчивость формата или предметного поведения, но требует версии данных, расходов и последующей регрессии. Не загружайте секреты и персональные данные без основания. Лицензия базовой модели должна разрешать выбранное использование.
4. Сравните на одной оценке
Создайте baseline с хорошим prompt, затем RAG и tuned-вариант. Считайте task success, критические ошибки, citations, latency и полную стоимость. Не оценивайте trained-модель на тех же примерах, что обучение. Для меняющихся фактов включите документы, добавленные после подготовки датасета, чтобы увидеть способность к обновлению.
5. Соедините подходы при необходимости
Tuned-модель может стабильно извлекать ответ из фрагментов, найденных RAG. Система всё равно валидирует формат и источник. Версионируйте модель, индекс, prompt и eval set независимо. Откат одного слоя должен быть возможен без разрушения остальных. Сложность гибрида оправдана только измеримым приростом.
Частые вопросы
Можно обучить модель на документах вместо RAG?
Для часто меняющихся фактов RAG обычно проще обновлять и цитировать.
Fine-tuning уменьшает prompt?
Иногда да, но экономику подтверждают измерением после обучения.
RAG гарантирует правду?
Нет, поиск и генерация могут ошибаться; нужны цитаты и проверки.
С чего начать?
С baseline, качественного prompt и контрольного набора.
Можно использовать оба подхода?
Да, если каждый исправляет измеримую отдельную проблему.