С помощью этого руководства вы научитесь создавать базу знаний на основе markdown-файлов, чтобы продемонстрировать, как дополнительная информация из внешних источников улучшает качество ответов языковой модели.
В результате вы получите практические навыки работы с технологией Retrieval Augmented Generation (RAG), которая позволяет расширять контекст запросов к языковым моделям за счет внешних данных.
Вы будете использовать следующие сервисы:
Managed RAG для создания и управления базами знаний.
Object Storage — объектное S3-хранилище с бесплатным хранением файлов объемом до 15 ГБ.
T-lite — легковесная языковая модель, с которой вы будете взаимодействовать в чате и с помощью клиента Chatbox.
Шаги:
Перед началом работы
Зарегистрируйтесь в личном кабинете Cloud.ru.
Если вы уже зарегистрированы, войдите под своей учетной записью.
1. Подготовьте контент для базы знаний
На этом шаге вы подготовите документы с информацией об AI-ассистенте Cloud.ru и загрузите их в объектное хранилище для последующего использования в базе знаний.
Распакуйте архив cloudia_docs.zip на вашем компьютере.
Внутри распакованной папки cloudia_docs находятся файлы в формате .md.
Создайте папку cloudia_docs в бакете и загрузите в нее файлы из архива cloudia_docs.zip.
2. Создайте базу знаний
На этом шаге вы создадите базу знаний на основе загруженных документов и проиндексируете ее для использования с языковыми моделями.
Перейдите в AI Factory → Managed RAG.
Нажмите Создать базу знаний.
В поле Название введите cloudia-kb.
В блоке Источники из S3 нажмите Выбрать и выберите папку cloudia_docs.
В поле Расширение файлов выберите md.
Нажмите Создать.
Дождитесь, пока первая версия базы знаний перейдет в статус «Активна».
3. Проверьте работу LLM с базой знаний
На этом шаге вы сравните ответы языковой модели T-lite без использования базы знаний и с ней, чтобы оценить улучшения контекста.
Ознакомьтесь с ответом модели «t-tech/T-lite-it-1.0» на следующий вопрос:
Расскажи о новом AI-ассистенте Cloud.ru.Модель генерирует ответ на основе собственных знаний, полученных при обучении, и предоставляет вымышленную информацию.
Чтобы самостоятельно проверить этот запрос, подключите Foundation Models в стороннем клиенте Chatbox AI.
Перейдите в AI Factory → Managed RAG.
Выберите базу знаний cloudia-kb.
В версии базы знаний перейдите на вкладку Тестирование.
Задайте тот же вопрос:
Расскажи о новом AI-ассистенте Cloud.ru.
Теперь модель использует информацию из базы знаний и предоставляет точный, достоверный ответ, основанный на загруженных документах.
Результат
Вы научились создавать базу знаний в Managed RAG из md-файлов и использовать ее для работы с AI-ассистентом.