В мире Retrieval-Augmented Generation (RAG) назревает важный архитектурный перелом. Если раньше стандартом считалась простая связка «векторная база + LLM» (так называемый naive RAG), то сегодня всё больше команд переходят на domain-routed agents — маршрутизированные агенты, которые не просто ищут по всем документам, а отправляют запрос в нужный домен знаний. На Хабре вышла статья, в которой подробно разбираются экономические и рисковые аспекты этого выбора. Давайте разберёмся, что стоит за трендом и какие подводные камни ждут на пути.
Что такое naive RAG и почему его стало мало
Naive RAG — это классическая схема: пользователь задаёт вопрос, система находит релевантные чанки в векторной базе (например, Pinecone, Qdrant, Milvus) и передаёт их в LLM для генерации ответа. Всё кажется логичным, но на практике возникают проблемы:
- Низкая точность — модель может смешивать информацию из разных контекстов, если документы противоречивы.
- Высокая стоимость — каждый запрос требует эмбеддинга всего корпуса или хотя бы топ-K чанков, что при росте базы дорожает.
- Отсутствие контекстного понимания — naive RAG не знает, что пользователь спрашивает про финансы, а не про HR, и выдаёт случайные фрагменты.
Авторы статьи на Хабре отмечают, что компании, которые пытались масштабировать naive RAG на тысячи документов, сталкивались с резким падением качества ответов и неконтролируемым ростом затрат на API.
Domain-routed agents: как это работает
Domain-routed agents — это архитектура, где перед этапом поиска стоит классификатор (роутер), который определяет домен запроса: например, «техподдержка», «продажи», «юридические вопросы» или «внутренняя документация». После этого поиск ведётся только в соответствующем индексе.
Ключевые компоненты такой системы:
- Роутер — лёгкая LLM или классификатор на основе эмбеддингов (часто fine-tuned BERT).
- Доменные индексы — отдельные векторные базы для каждого домена.
- Агенты — специализированные промпты и контексты для каждого домена.
Пример из статьи: компания с большим объёмом клиентских обращений внедрила domain-routed агента. Роутер научился отличать вопросы по гарантии от вопросов по настройке оборудования. В результате точность ответов выросла с 68% до 92%, а время обработки запроса сократилось в среднем на 40%.
Экономика: что выгоднее
Давайте посмотрим на цифры, которые приводят авторы (в пересчёте на средний проект).
| Параметр | Naive RAG | Domain-routed agents |
|---|---|---|
| Стоимость эмбеддингов на запрос | 1x (базовый уровень) | 0.2x — 0.7x (только один индекс) |
| Стоимость LLM-токенов | 1x | 0.5x — 1.2x (зависит от сложности роутера) |
| Затраты на инфраструктуру | 1x | 1.3x — 2x (нужны отдельные индексы) |
| Затраты на разработку | 1x | 2x — 3x (обучение роутера, настройка агентов) |
На первый взгляд, domain-routed агенты дороже на старте. Но если объём запросов превышает 10 000 в месяц, экономия на эмбеддингах и токенах начинает перевешивать. В долгосрочной перспективе (6+ месяцев) авторы статьи прогнозируют снижение TCO на 20–40% для проектов с 5+ доменами.
Риски, о которых нужно знать
Переход на domain-routed агенты — это не только выгода, но и новые риски:
- Ошибки роутинга — если классификатор отправит запрос не в тот домен, ответ будет бесполезен. Даже 5% ошибок роутинга могут снизить общую точность системы ниже уровня naive RAG.
- Усложнение отладки — при ошибке сложно понять, на каком этапе сбой: в роутере, в поиске или в генерации.
- Зависимость от качества данных — каждый домен требует чистого и структурированного корпуса. Если в одном домене данные в беспорядке, он потянет всю систему вниз.
- Операционные издержки — поддержка нескольких индексов и агентов требует более квалифицированной команды.
На Хабре приводят конкретный кейс: одна fintech-команда внедрила domain-routed агента для поддержки клиентов, но роутер начал путать «кредиты» с «ипотекой», и точность упала на 15% по сравнению с naive RAG. Потребовалось две недели на донастройку классификатора.
Когда выбирать что
Авторы статьи предлагают простую схему принятия решения:
- Naive RAG подходит, если:
- У вас один домен знаний (например, только документация по продукту).
- Менее 5 000 запросов в месяц.
-
Вы на стадии прототипа и не готовы к сложной архитектуре.
-
Domain-routed agents оправданы, если:
- 3+ домена с разной спецификой (например, продажи, техподдержка, юридические вопросы).
- Более 10 000 запросов в месяц.
- Критична точность ответов (выше 85%).
Выводы
Domain-routed agents — это не серебряная пуля, а эволюционный шаг. Они решают многие проблемы naive RAG, но требуют вложений в инфраструктуру и обучение роутера. Главный урок из статьи на Хабре: не гонитесь за модой — сначала проанализируйте свои данные и объём запросов. Возможно, для вашего бизнеса naive RAG остаётся оптимальным выбором, а возможно, пришло время для маршрутизации.
В любом случае, архитектура RAG продолжает развиваться, и domain-routed агенты — один из самых перспективных трендов 2026 года. Следите за новостями, тестируйте на своих данных и не бойтесь экспериментировать.
Комментарии