Что такое RAG: как ИИ отвечает по базе знаний

Суть RAG: почему языковая модель не может отвечать сама

Обычная языковая модель обучается на больших массивах публичных данных и хранит знания в своих параметрах. Когда вы задаёте ей вопрос, она предсказывает ответ из этих «заученных» знаний. Проблема в двух случаях: во-первых, модель не знает данных вашей компании — прайсы, регламенты, номенклатуру склада, правила техподдержки; во-вторых, когда информации нет, модель склонна её додумывать. Это и называют галлюцинациями — уверенный, но выдуманный ответ.

RAG (Retrieval-Augmented Generation, генерация с дополнением из базы знаний) решает обе проблемы. Перед тем как сформулировать ответ, система находит релевантные отрывки в ваших документах и «подкладывает» их модели как контекст. Модель отвечает уже не по памяти, а по тем фрагментам, которые ей передали. Ответ становится проверяемым: к каждому утверждению привязан источник из базы знаний.

Важная деталь: саму модель при этом не дообучают. Знание не «вшивается» в параметры модели, а подаётся в момент запроса. Поэтому обновить базу знаний — значит просто загрузить новые документы, не переобучая модель неделями.

Как RAG работает пошагово

Чтобы стало понятно, разберём путь от загрузки документа до готового ответа. Технически это четыре шага, первые два происходят один раз при подготовке, последние два — при каждом запросе пользователя.

1. Сбор документов. Источники подключаются из корпоративных хранилищ — файловых серверов, Confluence, Notion, Bitrix24, баз знаний, внутренних вики. Документы описываются по типу: инструкция, прайс, регламент, частая проблема.
2. Индексация. Каждый документ нарезается на фрагменты, каждый фрагмент превращается в эмбеддинг — числовой вектор, кодирующий смысл. Векторы складываются в векторную базу данных.
3. Поиск. По запросу пользователя система строит вектор запроса и находит в базе те фрагменты, чьи векторы ближе всего по смыслу. Возвращается несколько наиболее релевантных отрывков.
4. Генерация. Найденные фрагменты передаются модели вместе с вопросом. Модель формулирует ответ строго на их основе и помечает, откуда взят каждый факт.

Именно сочетание «поиск плюс генерация» и есть RAG в отличие от простого чат-бота, который отвечает «по памяти». Поиск делает ответ точным, генерация — связным и понятным.

Индексация документов и эмбеддинги

Ключ к качеству RAG — как документы нарезаны и превращены в числа. Разберём два базовых понятия.

Что такое эмбеддинги

Эмбеддинг — это числовое представление текста: список чисел-координат, в котором близкие по смыслу тексты находятся рядом. Слова «возврат» и «вернуть деньги» в этом пространстве окажутся близко, хотя формулировки разные. Поиск в RAG идёт именно по смысловой близости векторов, а не по совпадению слов. Поэтому запрос «как оформить возврат» находит фрагмент «процедура возврата товара», даже если точной подстроки нет.

Как нарезать документы

Фрагменты (чанки) — единица, по которой идёт поиск. Слишком большой кусок размывает смысл, слишком мелкий теряет контекст. Простые системы режут по количеству символов, качественные — с учётом структуры: по абзацам, разделам и заголовкам, сохраняя соседние фрагменты. Размер и способ нарезки подбираются под тип документа и модель — это одна из главных точек настройки системы.

Затем фрагменты попадают в векторную базу данных — специализированное хранилище, которое быстро ищет ближайшие векторы. От выбора и настройки этого хранилища зависит скорость и масштаб системы: для тысячи документов хватит лёгкого решения, для десятков тысяч нужен кластер.

Поиск и генерация ответа

Когда приходит вопрос, система повторяет два шага: векторизует запрос, находит релевантные фрагменты, затем отдаёт их модели вместе с вопросом. Уже здесь начинается точная настройка:

• гибридный поиск — сочетание смыслового (векторного) и лексического (по точным словам и названиям). Так не теряются точные артикулы и коды, которые векторный поиск может размыть;
• ранжирование — пересортировка найденных фрагментов, чтобы самые релевантные оказались в начале контекста;
• фильтры — ограничение поиска по типу документа, отделу или дате. Например, искать только в актуальных прайсах;
• метаданные — подстановка в контекст названия документа, раздела и ссылки, чтобы модель честно указала источник.

Затем вступает генерация. Модель получает понятную инструкцию: отвечать только по приведённым фрагментам, а если ответа в них нет — прямо сказать, что информации недостаточно, вместо того чтобы додумывать. Такая инструкция ещё сильнее снижает галлюцинации.

Зачем RAG бизнесу

Практическая ценность RAG — превратить разрозненные документы компании в ассистента, который отвечает сотрудникам и клиентам на языке базы знаний. Самые частые сценарии:

• Техподдержка. Агент закрывает повторяющиеся вопросы по инструкциям, регламентам и истории решений, снимая рутину с операторов. Шаблонные ответы, которые раньше искали в сотне файлов, теперь выдаются мгновенно со ссылкой на источник.
• Внутренний помощник. Сотрудникам не нужно помнить все регламенты и политики — помощник отвечает по актуальным версиям документов и обновляется автоматически.
• Онлайн-помощник клиентов. Ассистент консультирует по продукту, прайсам и условиям, отвечает с ссылками на актуальные страницы и снижает нагрузку на отдел продаж.
• Обработка документов. Извлечение нужных данных из договоров и заявок, поиск по архивным материалам, сверка с регламентами.

Общая логика проста: там, где раньше человек тратил минуты на поиск нужного раздела документа, RAG отвечает за секунды и с указанием источника. Для типичной компании существенная доля запросов повторяющаяся — и именно её выгодно автоматизировать. Хорошим ориентиром считают автоматизацию части рутинных обращений при сохранении человека в сложных и конфликтных ситуациях.

RAG или fine-tuning: что выбрать

Частая альтернатива RAG — дообучение модели (fine-tuning): взять языковую модель и дополнительно обучить её на ваших данных, чтобы знания «вшились» в параметры. У каждого подхода своя роль, и часто они дополняют друг друга.

RAG выигрывает там, где важно актуальность и проверяемость: данные меняются, по каждому факту нужен источник. Обновить базу — загрузить документ, не тратя на обучение недели. RAG дешевле и надёжнее на старте: не нужен дорогой этап обучения и обработки размеченных данных. Дообучение же меняет «характер» модели — тон, формат, следование инструкциям — и полезно, когда RAG не справляется с формой ответа. Подробное сравнение по критериям актуальность, стоимость и сложность — в отдельной статье про различия RAG и fine-tuning: что выбрать для ИИ-агента.

Ограничения RAG и точная настройка

RAG не серебряная пуля, и наивное внедрение даёт средний результат. Ограничения полезно знать заранее, чтобы заложить точную настройку в проект.

• Качество источника. Система отвечает по тому, что загрузили. Устаревшие документы, противоречащие друг другу версии и частая ложь в базе напрямую попадают в ответы. Требуется аудит и актуализация данных.
• Размер фрагментов. Неверная нарезка даёт либо слишком общие, либо вырванные из контекста куски. Подбор размера и способа нарезки — итеративный процесс.
• Смена темы и «не видел» ответы. Модель иногда даёт ответ на похожий вопрос или выходит за рамки найденного, если контекст не ограничили достаточно жёстко. Это лечится инструкциями и проверкой.
• Масштаб. При росте документов деградирует скорость и качество поиска — нужна перестройка индекса, кэширование и, возможно, более мощная инфраструктура.
• Единый ответ по многим источникам. Если ответ требует свести данные из нескольких документов, простой вывод не справится — нужна оркестрация нескольких шагов поиска и обработки.

Поэтому «точная настройка» в RAG — это не только дообучение модели, а целая цепочка решений: как размечать источники, насколько крупно нарезать, каким поиском искать, как ранжировать, какие инструкции давать модели и как проверить ответ на галлюцинации. В зрелых системах качество оценивается по контрольному набору реальных вопросов-эталонов, а не по «впечатлению от демо».

С чего начать

Оптимальный путь — пилот: взять один узкий, регулярный сценарий (например, ответы по прайсу или по внутренней инструкции), собрать прототип за пару недель и измерить, сколько обращений он закрывает. На этом этапе проверяется и качество ответов, и то, насколько удобно обновлять базу. Если пилот даёт измеримый результат — масштабируем на остальные документы.

Если вы решаете похожую задачу и хотите, чтобы ИИ отвечал по базам знаний вашей компании точно и без выдумок, мы проектируем и внедряем такие системы под ключ — от аудита источников до запуска ассистента. Начать стоит с разбора ваших сценариев и данных.