AI-агенты: как они устроены и что умеют

Сам по себе AI — это сырой интеллектуальный потенциал. Он не полезен до тех пор, пока у него нет конкретного задания. Другое дело AI-агент, который выступает практическим исполнителем задач пользователя. 

То есть в основе каждого AI-агента лежит LLM, которая может делать два действия: 

• обращаться к цифровым инструментам, чтобы коммуницировать с миром, приносить модели фидбэк и выполнять действия; 

• планировать и рассуждать (Planning/Reasoning): анализировать данные, выявлять закономерности и предлагать интерпретации. 

Чем AI-агенты отличаются от автоматизированных систем и AI-ассистентов

Автоматизированные системы — это, по сути, программы, которые действуют в соответствии с заранее определенной инструкцией и без использования AI-технологий. Например, так работают торговые боты или автопилоты. 

AI-ассистенты и AI-агенты — тоже не одно и то же. Разница между ними не всегда заметна сразу, но важна: 

• AI-помощник действует в ответ на запрос пользователя. То есть Алиса, Маруся, Siri, Google Assistant, Олег или Салют построят маршрут поездки или напишут текстовое сообщение только в том случае, если пользователь об этом попросит.

• AI-агент решает задачи не только под руководством человека, но и самостоятельно: запрашивает данные, анализирует их, принимает решения и совершает действия.

Говоря подробнее, AI-агент — это автоматизированная система с искусственным интеллектом, которая способна: 

• планировать стратегически: понимать потребности пользователя и действовать в соответствии с ними;

• выполнять план: решать задачи, используя агентные инструменты для взаимодействия с внешней средой; 

• работать автономно или совместно с человеком, получая от него недостающую информацию или запрашивая подтверждение действий.

Преимущества AI-агентов для бизнеса 

Основные преимущества AI-агентов — способность планировать действия без вмешательства человека и подстраиваться под изменения в среде. Используя их, бизнес может: 

• Нарастить эффективность работы: делегировать рутинные и трудоемкие операции AI-агентам, освободив сотрудников для более сложных и креативных задач.  

• Увеличить качество и скорость принятия решений: использовать AI-агентов для глубинного анализа данных в рамках стратегического планирования, прогнозной аналитики и получения рекомендаций в реальном времени.

• Оптимизировать затраты времени и ресурсов: снизить затраты на персонал, уменьшить издержки на управление запасами за счет оптимизации бизнес-процессов. 

• Улучшить клиентский сервис: проактивно общаться с клиентами, подготавливая персонализированные предложения на основе их поведения. 

• Повысить гибкость и масштабируемость: быстро перестраивать процессы под новые задачи и реагировать на изменчивые рыночные условия. 

• Получить конкурентное преимущество: оперативно внедрять инновации, повышая привлекательность бренда. 

Теперь рассмотрим, из чего состоят AI-агенты, а также как и с помощью чего они воспринимают свое окружение и обучаются.

Из чего состоит AI-агент

Каждый AI-агент — это сложная система, которая состоит из нескольких компонентов. Ключевыми среди них являются большие языковые модели (LLM), запросы (промпты) и агентные инструменты для взаимодействия с внешней средой. 

Большие языковые модели. LLM, например, DeepSeek, Qwen или GigaChat, выступают интеллектуальным ядром AI-агентов. Они обрабатывают естественный язык, анализируют запросы и формируют стратегии действий. 

Запросы к LLM. Чтобы формировать запросы к LLM, используются специальные инструкции — промпты. Они могут включать в себя фрагменты текста, сформированные программной системой, человеком или генеративной моделью. 

Механизмы вывода и исполнения модели. Для принятия входных данных и генерации ответа в реальном времени используются сервисы для ML-инференса. С их помощью можно:

• повысить эффективность работы AI-агентов, ускоряя анализ данных; 

• уменьшить потребление вычислительных ресурсов, чтобы оптимизировать работу в облаке или на локальном оборудовании; 

• снизить стоимость обработки данных. 

Оптимальный инференс — это фундамент для эффективного использования возможностей самой LLM и агентных систем на ее основе. Бизнесу, который размещает инфраструктуру в облаке, особенно полезен будет Evolution ML Inference — сервис для запуска и развертывания моделей машинного (ML) и глубокого (DL) обучения. С ним удастся без проблем запустить инференс больших текстовых моделей (LLM), моделей-трансформеров, диффузионных моделей из платформы Hugging Face или Маркетплейса Cloud.ru.

Evolution ML Inference

Cервис для запуска и развертывания моделей машинного (ML) и глубокого обучения (DL) в облаке

Эмбеддеры (Embeddings). Эмбеддеры, или специальные числовые векторы, позволяют представлять текст, изображения или аудио в числовом формате. Это дает возможность использовать их для обучения моделей или в конвейере RAG для семантического поиска. 

Вызов функций (Function Calling). Как мы уже говорили выше, при выполнении задачи AI-агент может использовать собственную программную логику или обращаться к другим автоматизированным системам через вызов их API. А выбор между локальной и удаленной функциями происходит с помощью функционала Function Calling. 

Чтобы понять, как это работает, представьте, что вам нужно купить билет на самолет: 

• вы даете AI-агенту задачу «купить билет в Сочи на 20 июля»;

• агент анализирует ее → с помощью Function Calling понимает, что решение задачи требует обращения к API сервиса для онлайн-бронирования авиабилетов → вызывает нужный инструмент → получает ответ от инструмента и формирует результат. 

Работает это так: агент получает запрос пользователя, вызывает AI-модель и передает ей описание доступных функций с их параметрами. В свою очередь, модель определяет, нужно ли обращаться к внешним сервисам, и выбирает подходящие параметры из контекста разговора для корректного вызова функции.

Таким образом, Function Calling позволяет AI-агентам выполнять реальные действия, интегрироваться с базами данных, CRM и платежными системами, а также управлять бизнес-процессами,например автоматизировать обработку заказов.

Агентные инструменты нужны AI-агентам, чтобы взаимодействовать с реальным миром. Например, они могут помогать в веб-поиске (DuckDuckGo API, Google Search API), выполнении кода (интерпретатор Python внутри агента), чтении файлов (PDF, Excel, JSON). 

Протоколы A2A и MCP. Для взаимодействия AI-агентов используются протоколы A2A и MCP:

• A2A (Agent-to-Agent) — открытый протокол от Google, который обеспечивает взаимодействие между агентами вне зависимости от того, кто их создал, где они размещены и какая у них структура. 

При использовании этого протокола один агент берет на себя роль «клиента», который инициирует запрос или задание, а другой — получает запрос и выполняет его. Дополнительно агент-«клиент» может сначала выполнить процедуру обнаружения способностей, чтобы определить, какой агент лучше подходит для выполнения задачи.

• MCP (Model Context Protocol) — открытый протокол от Anthropic, помогающий агентам получать структурированный контекст и инструменты от внешних приложений. Говоря подробнее, он позволяет динамически вводить релевантные инструменты, документы, функции API или состояние пользователя в сеанс вывода модели, а также дает моделям возможность вызывать функции или извлекать документы без жесткой кодировки запроса или логики.

Отметим, что цифровая среда Cloud.ru Evolution AI Factory отличается простотой работы с LLM, легкой API-интеграцией и возможностью использовать популярные протоколы MCP и A2A для взаимодействия AI-систем.

Цикл «агент-среда»

Чтобы воспринимать окружающую среду, анализировать происходящее, действовать и обучаться, AI-агенты могут: 

• собирать и интерпретировать данные из окружающей среды (Perception);

• анализировать полученные данные (Reasoning);

• выполнять задачи на основе данных и принятых решений (Action);

• обучаться при помощи алгоритмов машинного обучения, повышая эффективность на основе прошлого опыта (Learning);

• общаться с другими агентами или системами (Communication Interface); 

• накапливать историю и знания (Memory).

Упрощенно взаимодействие AI-агента со средой можно изобразить следующим образом: 

Роль машинного обучения (ML) и обучения с подкреплением (Reinforcement Learning)

Обучение с подкреплением позволяет агентным системам корректировать свое поведение после каждого действия и становиться умнее.

Можно сказать, что Reinforcement Learning — это метод проб и ошибок, который используется для повышения эффективности AI-агентов. Выглядит это примерно так: 

На схеме видим, что в процессе обучения AI-агента: 

• состояние среды подается политике агента, которая диктует ему поступить определенным образом, повлияв на окружающую среду; 

• в ответ окружающая среда передает агенту новое состояние и сигнал подкрепления — либо награду, либо штраф; 

• на основании полученной обратной связи агент обновляет политики. 

Есть разные классификации AI-агентов, которые обычно включают от четырех до семи этапов развития агентных систем. 

Теперь давайте подробнее поговорим про каждый из этапов, которые мы видим на схеме выше.

Простые реактивные агенты

Такие агенты действуют исключительно в ответ на единичный запрос или чат в режиме диалога в реальном времени. Не сохраняют историю и не накапливают опыт, а также всегда следуют предопределенным правилам. 

Агенты на основе AI-моделей 

Полуавтономные агенты с помощью LLM могут анализировать данные в режиме реального времени и соответствующим образом корректировать свои действия, чтобы достигать поставленных целей. 

Агенты с обучением 

Полностью автономные AI-агенты способны воспринимать окружающую среду, анализировать данные, самостоятельно действовать и обучаться. 

Мультиагентные системы 

Мультиагентные системы — это совокупность AI-агентов, работающих вместе для решения общей многокомпонентной задачи. При этом внутри такой совокупности каждый из агентов не теряет своей автономности и проактивности. 

Применение AI-агентов открывает новые горизонты для повышения производительности бизнеса, позволяя упростить и ускорить решение задач по ряду общих для всех отраслей направлений.

• Поддержка и клиентский сервис. AI-агенты могут самостоятельно и быстро обрабатывать запросы, снижая нагрузку на операторов. А еще анализировать обращения клиентов и предлагать персонализированные решения на их основе.

• Продажи и маркетинг. В продажах тоже пригодится способность AI-агентов анализировать поведение клиентов и генерировать для них выгодные индивидуальные предложения. Также будет полезно поставить на поток производство email-рассылок и другого регулярного контента. 

• Финансы и аналитика. AI-агенты могут использоваться для обнаружения подозрительных транзакций и предотвращения мошенничества, а также для анализа данных рынка и генерации инвестиционных рекомендаций.

• Автоматизация корпоративных бизнес-процессов. Например, агентные системы можно использовать для анализа бизнес-метрик и подготовки отчетов на их основе. 

Чтобы эффективно внедрить AI-агентов в компанию, нужны скоординированные действия IT- и бизнес-департамента. Провести внедрение быстро и без лишних затрат поможет пошаговый план. 

Определите цели

Сформируйте перечень задач, которые нужно решить через внедрение AI-агентов. Затем определите, по каким критериям вы будете изменять успех от внедрения и выберите наиболее приоритетные задачи.

Подготовьте команду 

Убедитесь, что команда проекта или продукта обладает достаточной экспертизой для внедрения в свои процессы AI-агентов и при необходимости проведите обучение основам работы с сервисами на основе искусственного интеллекта.

Утвердите бюджет и наметьте сроки

Поймите, сколько вы готовы потратить на реализацию пилотного проекта по внедрению AI-агентов, а также наметьте сроки, за которые планируете достичь первых результатов. 

Сформируйте экспертную команду

Отберите в экспертную команду сотрудников, которые будут отвечать за реализацию пилота и оценку его результатов. 

Запустите первый проект

Выберите такой проект, реализация которого позволит продемонстрировать положительные результаты в сжатые сроки пилота. 

Отслеживайте ход пилотного проекта

Настройте мониторинг пилотного проекта, чтобы быть в курсе его эффективности в разрезе влияния на технические и бизнес-параметры. Это позволит получить представление о потенциальном бизнес-эффекте, а также понять, сколько ресурсов потребляет система — в дальнейшем собранные метрики помогут спланировать масштабирование проекта. 

При внедрении агентных систем в контур бизнеса важно принимать в расчет не только их обширные возможности, но и риски, которые влечет за собой их использование. 

Угрозы для кибербезопасности

В рамках задач по обеспечению безопасности ценных данных, которые бизнес доверяет AI-агентам при внедрении, особое внимание нужно уделить защите следующих поверхностей: 

• Интерфейсам ввода-вывода (пользовательским интерфейсам) и данным, поступающим из обогащающих каналов RAG. 

• Внутренним и внешним источникам данных, где могут быть размещены вредоносные файлы.  

• Механизмам обмена сообщениями, как точкам возможного перехвата или искажения данных. 

• Механизмам управления агентами и регистрацией событий. 

Впрочем, атаки на любой поверхности AI-агента могут приводить к утечке данных, уничтожению или нарушению доступности внутренних или внешних ресурсов и другим плачевным последствиям. Чтобы гарантировать безопасность, важно: 

• мониторить и регистрировать события безопасности, следя за всеми взаимодействиями AI-агента по API, собственной памятью, а также ответами и запросами к пользователю;

• фильтровать входные запросы; 

• контролировать доступ к ключевым компонентам системы;

• использовать только проверенные шаблоны запросов AI-агентов для отправки в базы данных; 

• проводить тестирования в режиме Red Team (Red Team Assessment) — тестирования на проникновения с имитацией работы реального злоумышленника;

• валидировать доверенным лицам выполнение критичных задач;

• ограничивать ресурсы исполнения среды AI-агента и модели;

• оценивать и тестировать системные промпты на устойчивость к нецелевым входящим запросам; 

• не допускать попадания информации о среде исполнения в системный промт AI-агента. 

Для решения задач по обеспечению защиты данных можно применять GuardRails — набор мер, помогающих отслеживать и обеспечивать соблюдение стандартов, политик и правил безопасности на протяжении всего жизненного цикла разработки программного обеспечения (SDLC). А также использовать инструменты для NER-фильтрации и LLM-мониторинга, например, Python-репозитории Natasha и сервис Hive Trace. Это поможет непрерывно отслеживать безопасность GenAI-контента и мгновенно выявлять киберугрозы.

Дополнительно стоит взять на заметку проект OWASP Top 10 — регулярно обновляемый список основных угроз безопасности веб-приложений, который ведется международными экспертами по информационной безопасности и обновляется каждые 3–4 года.

Ошибки в обучении и зависимость от качества данных

LLM, на основе которой работает AI-агент, обучается на базах данных, отобранных специалистом или выгруженных из интернета. Это может приводить к выдаче ложной, неполной или противоречивой информации, а также галлюцинациям — генерации неконтролируемых результатов. 

Рассмотрим примеры практического применения агентных систем, которые уже продемонстрировали свою эффективность в оптимизации бизнес-задач, повышении качества клиентского сервиса и защите данных.

Агенты для разработки кода

Такие агенты, как Cursor, Claude Code и Windsurf автоматизируют создания кода, выполняя работу самостоятельно в несколько этапов: составляют план для написания оптимально подходящего кода, затем пишут его и проверяют. 

Виртуальные ассистенты

Виртуальные ассистенты, например Google Bard, основаны на технологиях обработки естественного языка (Natural Language Processing, NLP) и машинного обучения. Они позволяют оперативно отвечать на вопросы пользователей и обеспечивать поддержку в режиме 24/7 без участия человека. 

Агенты клиентской поддержки

При общении с клиентами AI-агенты выступают виртуальными помощниками для оптимизации рабочих процессов и повышения их эффективности. Они могут самостоятельно консультировать клиентов, находя нужные товары в базе и рассказывая про их преимущества, не привлекая для этого сотрудников компании. 

Автоматизированные системы управления цепочками поставок

Amazon и Tesla интегрировали агентные системы в свои цепочки поставок для автоматизации процессов, прогнозирования спроса и оптимизации запасов. Это позволяет им сокращать время доставки и уменьшать издержки, обеспечивая высокий уровень удовлетворенности клиентов. 

Финансовые аналитические агенты

В финансовом секторе агенты на основе искусственного интеллекта применяются для быстрого анализа обширных наборов данных. Это позволяет выявлять перспективные торговые стратегии и распознавать мошеннические действия.

Что дальше? В ближайшие годы AI-агенты будут активно развиваться, все эффективнее проходя цикл «восприятие-интерпретация-решение-действие» и обучаясь с помощью Reinforcement Learning. Это позволит им стать еще более умными, адаптивными и способными на самостоятельное принятие сложных решений в разнообразных условиях. 

Логичный следующий шаг развития агентных систем — это мультиагентные системы, где группы специализированных агентов совместно решают комплексные задачи в условиях реальной корпоративной среды. А секрет их эффективной разработки и повсеместного внедрения заключается не только в технологическом развитии, но и в умении четко определить для них цели и принципы построения. 

Однако создание по-настоящему результативных агентных и мультиагентных систем — все еще вызов для IT-индустрии. Впрочем, уже сегодня можно уверенно утверждать, что инвестиции в AI-агентов — это инвестиции в долгосрочную конкурентоспособность бизнеса.