В этой статье

Главная мысль

RAG находит нужную информацию до того, как модель пишет ответ. Его ценность зависит от доступных документов, отобранных доказательств и способности отказаться от неподтверждённого ответа.

01

Начните с реального бизнес-вопроса

Генерация с дополнением поиском объединяет языковую модель с информацией из внешней коллекции. Исходная работа о RAG описывает сочетание знаний модели и найденных сведений. В компании практической целью может быть ответ на вопрос поддержки по действующей процедуре с указанием её источника.

Представьте внутреннего ассистента, которого спрашивают о возможности замены возвращённого товара. Впечатляющего ответа мало: нужны продукт, страна и применимая версия правил. Мы рекомендуем начать с одной группы документов и ответственного бизнес-владельца. Определите допустимые вопросы, необходимые доказательства и условия передачи человеку.

ИсточникиLewis et al. — Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks ↗
02

Спроектируйте жизненный цикл документов до выбора БД

Полезный конвейер загрузки извлекает текст, сохраняет заголовки и таблицы и связывает каждый фрагмент с постоянным ID документа. Мы также сохраняем URL, владельца, язык, редакцию, дату действия и метки доступа. Без этого фрагмент может звучать правильно, но относиться к другому договору или устаревшему продукту.

Сделайте загрузку повторяемой задачей. Фиксируйте ошибки импорта, отличайте замену от дублирования и удаляйте из индекса исключённые документы. В пилоте намеренно обновите одну процедуру и удалите другую, затем проверьте поиск ассистента. Такой опыт часто лучше показывает готовность к эксплуатации, чем красивая демонстрация на неизменной коллекции.

Наглядная схема / 01

Ответ начинается с источника

Предлагаемый путь RAG: права проверяются до передачи сведений модели.

  1. Документы

    Сохраняйте источник, версию и ответственного.

  2. Доступ

    Выбирайте только доступные пользователю материалы.

  3. Поиск

    Находите фрагменты, соответствующие вопросу.

  4. Ответ с источниками

    Отвечайте с опорой на доказательства или уточняйте вопрос.

03

Применяйте права до передачи информации модели

Запрос поиска должен содержать ограничения доступа аутентифицированного пользователя. Microsoft описывает фильтрацию результатов по индексированным полям идентификации; сам фильтр не является аутентификацией. В нашей архитектуре приложение определяет личность и права и применяет их во время поиска. Просьба в промпте игнорировать секретные документы не является контролем доступа.

Проверьте одинаковый вопрос от двух людей с разными правами. Изучите фрагменты, сгенерированный текст, ссылки и кеши. Общий кеш не должен выдавать привилегированный ответ другому пользователю. Журналам нужна политика хранения: запись полных документов создаёт вторую, хуже контролируемую копию базы знаний.

ИсточникиMicrosoft — Security filters for document-level access ↗
04

Предусмотрите доказательства, выход и эксплуатацию

Требуйте ответов с привязкой к конкретным фрагментам и проверяйте, подтверждает ли источник утверждение. При недостаточных или противоречивых данных полезным результатом может быть уточнение или явная передача человеку. В примере возврата лучше спросить страну, чем угадать её.

Передача в эксплуатацию должна включать график загрузки, владельцев документов, репрезентативный набор проверок и откат изменений индекса или модели. Для RAG-проекта MASLOV Solutions предлагает подключить источники, реализовать поиск и права, встроить интерфейс и определить эксплуатационные проверки. Выбор БД следует из этих требований и не заменяет их.

05

Проведите гарантийный вопрос через систему

Консультант спрашивает, можно ли заменить повреждённый товар. Сначала определите клиента, продукт и применимую страну по разрешённым записям. Если обязательного поля нет, уточните его до поиска. Найдите действующие правила и исключения, затем подготовьте ответ, отделяющий общее правило от фактов случая.

Не превращайте ответ напрямую в заказ на замену. Предложение может цитировать правила, а бизнес-сервис отдельно проверяет право на замену и полномочия создать заказ. Если применимые документы противоречат друг другу, передайте случай владельцу. Так интерпретация документов полезна, но гладкий ответ не подменяет правила транзакций.

Процесс / путь принятия решения

Ответу RAG нужна проверка доказательств

Предлагаемая архитектура гарантийного сценария. Ответ с цитатами сам по себе не разрешает заказ на замену.

Определить пользователя и случай → найти разрешённые фрагменты

Доказательства применимы, достаточны и согласованы?

  • Да

    1. Подготовить ответ с фрагментами источников
    2. Проверить утверждения → вернуть предложение со ссылками
  • Нет

    1. Не домысливать отсутствующее правило
    2. Запросить контекст или передать противоречие человеку
06

Обновление документа — наблюдаемое событие

Допустим, правила меняются в понедельник. Задача загрузки должна распознать новую редакцию, перестроить затронутые фрагменты и прекратить выдачу прежней версии там, где она больше не действует. Храните дату вступления в силу отдельно от времени импорта: будущие правила не должны незаметно заменять текущие.

После публикации запустите затронутые гарантийные вопросы и проверьте ссылки. В ту же репетицию включите удаление и отзыв прав. Показывайте владельцу документа принятые, отклонённые и устаревшие загрузки. Полезный эксплуатационный экран связывает неверный ответ с редакцией источника или неудачной задачей, чтобы команда исправляла нужный этап.

Источники и дополнительное чтение

Документация проверена .

ВОПРОСЫ / РЕШЕНИЯ

Частые вопросы

Устраняет ли RAG галлюцинации?+

Нет. Поиск может вернуть неполные или нерелевантные данные, а модель — неверно их понять. Проверка источников, оценка качества и понятный путь отказа остаются необходимыми.

Нужно ли сначала перенести все документы?+

Нет. Начните с актуальной коллекции для одного полезного процесса. Расширяйте её после проверки прав, обновлений и качества ответов вместе с бизнес-владельцем.

Наши услуги: ИИ, агенты и RAG ↗