HiveTrace развернул в Cloud.ru решение для защиты корпоративных GenAI-приложений
Разработчик решений для защиты искусственного интеллекта HiveTrace развернул AI Firewall в облаке Cloud.ru. Это позволило ускорить внедрение системы у корпоративных заказчиков и обеспечить дополнительную защиту GenAI-приложений от наиболее распространенных атак на большие языковые модели.
AI Firewall защищает от ключевых ИБ-угроз при использовании ИИ, включая промпт-атаки, отравление данных и моделей, утечку системных инструкций, чрезмерную агентность и другие уязвимости LLM. Например, это не позволяет злоумышленникам заставить модель выполнять небезопасные действия с помощью вредоносных запросов и получить через LLM конфиденциальные данные компании. В отличие от инструментов защиты на уровне отдельных моделей, решение работает на уровне приложений.
Помимо миграции, Cloud.ru и HiveTrace также договорились о включении модели HiveTracePro в сервис Evolution Foundation Models. Клиенты Cloud.ru, которые уже используют языковые модели на платформе, могут подключать HiveTracePro как дополнительный уровень защиты GenAI-приложений. Модель дополняет Guardrails Filter — собственный инструмент Cloud.ru для маскировки чувствительных данных при работе с большими языковыми моделями.
Риски при работе с генеративным ИИ — один из главных блокеров для его массового внедрения в большинстве российских бизнесов. Чтобы решить эту проблему, мы активно развиваем собственные инструменты для безопасной работы с ИИ и расширяем экосистему партнерских решений. Коллаборация Cloud.ru и HiveTrace позволит предложить клиентам дополнительный инструмент для защиты GenAI-приложений.
Клиенты HiveTrace работают в разных отраслях, поэтому требования к инфраструктуре отличаются от проекта к проекту. Компании требовалась единая платформа, которая закрывает все требования, а также для работы с персональными данными, ГИС, КИИ и финансовыми системами, а также поддерживает Kubernetes с GPU.
Для размещения AI Firewall компания выбрала Cloud.ru Evolution. Решение развернули на базе Evolution Managed Kubernetes с GPU. Managed-сервисы Cloud.ru оказались совместимы с существующими компонентами HiveTrace, поэтому компании не потребовалась дополнительная доработка.
Cloud.ru дал инфраструктурную основу, которая соответствует требованиям наших заказчиков и позволяет быстрее запускать и масштабировать проекты. Благодаря этому команда может сосредоточиться на развитии продукта и разработке новых функций безопасности, не тратя ресурсы на подготовку инфраструктуры под каждое внедрение.