Как устроен AI-помощник Клаудия
Клаудия — это подготовленный командой Cloud.ru AI-помощник, позволяющий вам быстрее решать задачи в облаке. В отличие от обычной языковой модели (LLM), Клаудия — это более сложная система, которая комбинирует в себе сразу несколько технологий. Помимо возможностей самой нейросети, Клаудия может взаимодействовать с интерфейсом, принимать решения и выполнять действия от вашего лица. Клаудия может становиться автономным помощником при работе с облачными сервисами.
Что включает в себя Клаудия
Схематично представим устройство Клаудии:
- LLM
- Агенты
- Тулы
собирать знания о платформе из публичной документации, используя RAG-систему поиска;
обращаться к базе данных для проверки доступа;
отправлять API-запросы на создание объектов в сервисах;
изменять настройки личного кабинета.
В ядре агента работают разные языковые модели. LLM помогает убрать детерминированность в общении с пользователем и отойти от привычной работы с интентами. При общении с LLM пользователь может сформулировать свой запрос в любой удобной форме, что упрощает работу с агентом.
Агент может консультировать вас о работе с облаком, обращаясь за знаниями, которые размещены документации платформы Evolution.
Клаудия состоит из разных агентов, к которым обращается головной агент-оркестратор. Каждый агент отвечает за свое направление задач, например: поиск по документации и агрегация ответа, создание виртуальной машины, создание дашборда или настройка алертов.
Сама LLM не может выполнять никаких действий, за это отвечают заранее настроенные тулы. Агент принимает решение, когда и с какими параметрами следует вызвать нужный тул.
Тул — это инструмент/функция, благодаря им агент выходит за рамки обычной генерации текста и взаимодействует с системой. Тулы позволяют обогатить ее знаниями и умениями, которых у нее нет изначально.
Например, тулы позволяют:
Как происходит взаимодействие с Клаудией
Все взаимодействие с Клаудией проходит в чате в форме естественного диалога.
Вы описываете свою задачу или выбираете из набора предложенных решений. Если ей недостаточно данных, она может задать уточняющий вопрос.
Клаудии доступны только те действия, которые доступны вашей роли в личном кабинете и конкретном проекте. Действие, например, создание объекта, будет выполняться в том проекте, в котором вы находитесь в момент общения с Клаудией.
- Что включает в себя Клаудия
- Как происходит взаимодействие с Клаудией