Evolution

Как устроен Гига-помощник


Гига-помощник — это подготовленный командой Cloud.ru ИИ-помощник, позволяющий вам быстрее решать задачи в облаке. В отличие от обычной языковой модели (LLM), Гига-помощник — это более сложная система, которая комбинирует в себе сразу несколько технологий. Помимо возможностей самой нейросети, Гига может взаимодействовать с интерфейсом, принимать решения и выполнять действия от вашего лица. Гига может становиться автономным помощником при работе с облачными сервисами.

Что включает в себя Гига-помощник

Схематично представим устройство Гига-помощника:

../_images/scheme__ai_agent_arch.svg
LLM

В ядре агента работают разные языковые модели. LLM помогает убрать детерминированность в общении с пользователем и отойти от привычной работы с интентами. При общении с LLM пользователь может сформулировать свой запрос в любой удобной форме, что упрощает работу с агентом.

Агент может консультировать вас о работе с облаком, обращаясь за знаниями, которые размещены документации платформы Evolution.

Агенты

Гига состоит из разных агентов, к которым обращается головной агент-оркестратор. Каждый агент отвечает за свое направление задач, например: поиск по документации и агрегация ответа, создание виртуальной машины, создание дашборда или настройка алертов.

Тулы

Сама LLM не может выполнять никаких действий, за это отвечают заранее настроенные тулы. Агент принимает решение, когда и с какими параметрами следует вызвать нужный тул.

Тул — это инструмент/функция, благодаря им агент выходит за рамки обычной генерации текста и взаимодействует с системой. Тулы позволяют обогатить его знаниями и умениями, которых у него нет изначально.

Например, тулы позволяют:

  • собирать знания о платформе из публичной документации, используя RAG-систему поиска;

  • обращаться к базе данных для проверки доступа;

  • отправлять API-запросы на создание объектов в сервисах;

  • изменять настройки личного кабинета.

Как происходит взаимодействие с Гига-помощником

Все взаимодействие с помощником проходит в чате в форме естественного диалога.

Вы описываете свою задачу или выбираете из набора предложенных решений. Если помощнику недостаточно данных, он может задать уточняющий вопрос.

Гига-помощнику доступны только те действия, которые доступны вашей роли в личном кабинете и конкретном проекте. Действие, например, создание объекта, будет выполняться в том проекте, в котором вы находитесь в момент общения с помощником.