RAG-система для бизнеса: ответы по документам без ручного поиска
Как работает RAG, чем он отличается от обычного чат-бота, какие документы подключать и как контролировать ссылки, права доступа и качество.
RAG — это подход, при котором языковая модель отвечает на основе найденных фрагментов корпоративных данных. Он нужен, когда ответ должен быть актуальным, проверяемым и зависеть от документов компании. Но качество RAG определяется не названием модели, а поиском, метаданными и системой оценки.
Из каких компонентов состоит RAG
- Коннекторы забирают данные из файлов, базы знаний, CRM, wiki и облачных дисков.
- Парсер извлекает текст, таблицы, заголовки и структуру документа.
- Чанкер делит материал по смыслу и сохраняет метаданные: источник, версия, дата, доступ.
- Поиск объединяет ключевые слова и векторную близость.
- Reranker отбирает действительно полезные фрагменты.
- Модель формирует ответ только из контекста и прикладывает ссылки.
Как выбирать размер фрагмента
Слишком мелкий фрагмент теряет условие и исключение; слишком крупный снижает точность и расходует контекст. Для регламентов обычно полезно деление по разделам и пунктам, для договоров — по статьям, для карточек товара — по смысловым полям. Размер проверяется на реальных вопросах, а не задаётся раз и навсегда.
Права доступа
- Документ индексируется вместе с ACL или группой доступа.
- Фильтр применяется до передачи контекста модели.
- Журнал хранит пользователя, запрос, найденные источники и действие.
- Персональные и секретные поля маскируются по правилам.
- Удаление или новая версия документа должны быстро попадать в индекс.
Оценка качества
| Метрика | Что измеряет |
|---|---|
| Recall@k | Попал ли правильный источник в верхние результаты поиска. |
| Faithfulness | Подтверждается ли ответ предоставленным контекстом. |
| Answer relevance | Отвечает ли текст на заданный вопрос, без лишней воды. |
| Citation accuracy | Ведёт ли ссылка именно на подтверждающий фрагмент. |
| Abstention quality | Отказывается ли система, когда данных недостаточно. |
Типовые ошибки
- Индексировать сканы без качественного OCR.
- Смешивать действующие и архивные версии без дат.
- Отдавать модели десятки слабых фрагментов.
- Оценивать систему только на придуманных разработчиками вопросах.
- Не назначать владельца базы знаний и процесс актуализации.
Начинаем с набора вопросов, на которые уже известны правильные ответы и источники. Каждое изменение поиска прогоняем по этому набору — так качество становится измеримым.
Когда RAG готов к работе
Пользователь получает точный ответ со ссылкой, права соблюдаются, новая версия быстро переиндексируется, а команда видит проблемные вопросы и улучшает источники. Мы внедряем RAG как продукт: с коннекторами, админкой, оценкой и мониторингом.
Обсудим вашу задачу
Разберём процесс, предложим формат первого релиза и оценим сроки после короткого интервью.
Подробнее об услугеОставить заявку