Evolution Managed RAG на Cloud.ru: как подключить свои данные к LLM без разработки

Большая языковая модель знает только информацию из данных, на которых ее обучали. В ней нет договоров, инструкций и базы знаний конкретной компании. Поэтому без дополнительных данных модель может дать слишком общий ответ или сгенерировать недостоверную информацию.

Генерация с дополненным поиском (Retrieval-Augmented Generation, RAG) решает эту проблему без дообучения модели. Технология позволяет сперва найти нужную информацию в корпоративной базе знаний, а затем передать ее модели вместе с запросом. В результате ответ формируется на основе конкретных документов.

RAG стал одним из распространенных подходов для корпоративного ИИ. По данным исследования Menlo Ventures «2024: The State of Generative AI in the Enterprise», RAG стал доминирующим подходом, который используется в 51% корпоративных сценариев (по сравнению с 31% годом ранее). При этом популярность дообучения моделей (fine-tuning) резко упала с 19% до 9%, что подтверждает тренд в пользу RAG-архитектуры. 

Evolution Managed RAG — сервис Cloud.ru, использует ваши документы для создания базы знаний, доступной LLM, и запускает на ее основе RAG-систему. Обычно, чтобы поднять RAG, нужно подобрать и развернуть векторную базу данных, настроить модель векторного представления текста (embedding), написать пайплайн индексации — и все это поддерживать. Управляемый RAG берет эти задачи на себя: пользователю остается загрузить документы и подключить систему к модели.

Автоматическая индексация. Управляемый RAG позволяет автоматически обрабатывать документы из объектного хранилища и строит по ним поисковый индекс. Он также позволяет загружать документы целиком без разделения на чанки (опция «не разделять документы на чанки») и использовать новые экстракторы для Excel-файлов и изображений. 

Управляемая векторная база. Хранилище векторов разворачивать и обслуживать не нужно.

Интеграция с моделями. Сервис работает в связке с Evolution Foundation Models и Evolution ML Inference — каталогом готовых и собственных языковых моделей.

Программный интерфейс приложения (API) поиска и генерации. Единый интерфейс, чтобы искать по базе знаний и получать готовые ответы.

MCP-сервер. Готовое подключение базы знаний к ИИ-агентам и клиенту Chatbox.

Перед запуском Evolution Managed RAG стоит проверить требования к документам. Сервис работает с текстовыми и структурированными файлами, которые используются для создания базы знаний.

Запуск RAG c Evolution Managed RAG выполняется через интерфейс и не требует самостоятельной настройки инфраструктуры. Рассмотрим основные шаги создания базы знаний.

Шаг 1. Подключить необходимые сервисы

Перед началом работы убедитесь, что в проекте подключены Evolution Foundation Models и Evolution Object Storage. Хранилище используется для хранения документов базы знаний — на старте доступно до 15 ГБ бесплатного хранения.

Шаг 2. Загрузить документы

Создайте бакет в хранилище и загрузите документы в отдельную папку, например, /knowledge-base/. Сервис RAG будет использовать эти файлы как источник данных. Поддерживаются форматы TXT, MD, JSON, PDF, Excel и изображения.

Шаг 3. Создать базу знаний

В AI Factory откройте Evolution Managed RAG и выберите «Создать базу знаний». Укажите название, путь к папке в S3 и расширения документов, затем запустите создание.

Шаг 4. Дождаться индексации

Сервис автоматически обработает документы, разделит их на фрагменты и создаст индекс для поиска. Обычно процесс занимает от нескольких минут до получаса в зависимости от объема данных. Статус «Активная» означает, что база знаний готова.

Шаг 5. Отправлять запросы к базе знаний

В разделе «Версии» скопируйте URL базы знаний и используйте его в API-запросах с токеном доступа. API совместимо с OpenAI, что упрощает интеграцию с существующими системами. Проверить работу без написания кода можно через Sandbox в AI Factory.

Сервис RAG позволяет быстро создавать ИИ-сервисы на основе корпоративных данных. Например, интернет-магазин может загрузить каталог товаров в Evolution Object Storage и подключить базу знаний к чат-боту поддержки. Для нестандартных задач доступен собственный инференс через Evolution ML Inference. Cloud.ru берет на себя инфраструктуру поиска и генерации, а команда сосредоточена на разработке продукта.

Управляемый RAG позволяет подключить данные к нейросети и использовать корпоративные документы в ИИ-агентах через MCP (Model Context Protocol) — открытый протокол, разработанный компанией Anthropic, который стандартизирует подключение к LLM внешних инструментов и источников данных. Это позволяет использовать базу знаний в агентах и клиентах типа Chatbox: пользователь задает вопрос обычным языком, а агент формирует ответ на основе корпоративных документов и может указать источник информации.

Сервис подходит командам, которым нужно создать базу знаний ИИ для работы с большим объемом документов. Такой подход помогает реализовать RAG без разработки — без самостоятельной настройки поиска, индексации и инфраструктуры.

Корпоративный FAQ-бот

Загрузите HR-документы, регламенты и политики в базу знаний — и сотрудники смогут получать ответы на вопросы по внутренним процессам со ссылками на источники.

Поддержка клиентов

База знаний из документации продукта позволяет создать чат-бота первой линии, который отвечает на технические вопросы клиентов и снижает нагрузку на команду поддержки.

Внутренний аналитик

Отчеты, исследования и договоры можно использовать как источник данных для ИИ-ассистента. Менеджер задает вопрос естественным языком и получает краткую выжимку из нужных документов с указанием источников — это ускоряет принятие решений и избавляет от необходимости вручную изучать большие объемы информации.

Тарификация

Хранение — до 15 ГБ бесплатно + 10 ТБ трафика, 100 000 PUT/LIST/POST и 1 000 000 GET/HEAD в месяц.

Платно — инференс моделей. Цены на открытые LLM из Foundation Models:

• В среднем: 35 ₽ за входной и 70 ₽ за выходной млн токенов.

• Примеры: GigaChat 3.5 Ultra — 96/289 ₽, Qwen3-235B — 17/50 ₽.

Доступ через OpenAI-совместимый API. Актуальные цены — на странице продукта.

Остались вопросы? Мы собрали ответы на ключевые из них. 

Можно ли использовать управляемый RAG без знания программирования?

Да. Базу знаний создают через интерфейс AI Factory, а протестировать ответы можно в песочнице без кода. Для продуктовой интеграции есть API в OpenAI-совместимом формате.

Как обновить базу знаний при добавлении документов?

Загрузите новые файлы в Evolution Object Storage и создайте новую версию базы знаний. Предыдущие версии сохраняются — можно сравнивать ответы и при необходимости вернуться к любой из них, поменяв идентификатор версии в запросе.