Агентная система помогает агрегировать агентов и управлять ими.
Убедитесь, что у вас подключены сервисы ML Inference и Foundation Models. Без этого не получится создавать агентов и агентные системы.
На верхней панели слева нажмите
и перейдите в AI Factory → AI Agents → Агентные системы.Нажмите Создать агентную систему.
Введите Название и при необходимости добавьте описание.
Выберите источник модели: Foundation Models или ML Inference.
Выберите одну из популярных моделей. Для просмотра всех доступных моделей нажмите Показать еще.
Выберите конфигурацию ресурсов для агентной системы.
Введите системный промпт. Чтобы сгенерировать или улучшить промпт, нажмите Улучшить инструкцию для ассистента.
Нажмите Продолжить.
Задайте настройки масштабирования:
Количество экземпляров — минимальное и максимальное количество экземпляров контейнера при масштабировании сервиса. При минимальном количестве экземпляров «0» — агентная система работает в serverless-режиме и автоматически отключается при отсутствии запросов. При поступлении новых запросов агентная система запускается повторно.
(Опционально) Активируйте опцию Запускать все дочерние контейнеры при запросе, если необходимо чтобы при запуске одного контейнера автоматически запускались все зависимые контейнеры для корректной работы системы.
(Опционально) Активируйте опцию Не выключать агентную систему, если необходимо чтобы агент всегда был запущен.
(Опционально) Укажите для агента Время жизни при отсутствии нагрузки, если не активировали предыдущую опцию.
Выберите тип масштабирования и укажите допустимое количество запросов в секунду:
RPS — запросы в секунду на экземпляр, автомасштабирование начинается при достижении заданного лимита на количество запросов в секунду на экземпляр.
Concurrency — параллельные запросы на экземпляр, автомасштабирование начинается при достижении заданного лимита на количество одновременных запросов на экземпляр.
(Опционально) Активируйте опцию Аутентификация для аутентификации пользователя при вызове модели через публичный URL.
(Опционально) Активируйте опцию Логирование запросов для ведения журнала запросов к агенту. Укажите лог-группу.
Нажмите Создать и дождитесь перехода агентной системы в статус «Запущен» или «Ожидает запроса».
После перехода агентной системы в статус «Запущен» вы можете протестировать систему на вкладке Чат.
Публичный URL и мониторинг
После создания агентной системы вам доступен публичный URL агентной системы и мониторинг с помощью Arize Phoenix.
Перейдите в AI Factory → AI Agents → Агентные системы.
Перейдите в нужную агентную систему.
Публичный URL и ссылка на инстанс мониторинга находятся под заголовком агентной системы.
См.также
Что дальше
Создайте агентов для различных задач в составе полученной агентной системы.
- Публичный URL и мониторинг
- Что дальше