В статье рассмотрены принципы работы Гига-помощника с точки зрения безопасности: доступ к данным пользователей, обработка и хранение информации, защита каналов передачи, а также разграничение ответственности между помощником и пользователями.
Гига-помощник видит только ту информацию, которую пользователь самостоятельно предоставляет в рамках диалога, и только те данные, которые доступны для роли пользователя в личном кабинете и конкретном проекте. Помощник не имеет доступа к данным других пользователей и не может обойти ограничения роли. Пароли, SSH-ключи и токены не хранятся в памяти агента между сессиями.
Принципы авторизации:
Гига-помощник действует от имени пользователя с его Bearer-токеном, который передаются в заголовках запроса. При аутентификации он использует токен учетной записи. Помощник не имеет собственных учетных данных и полностью наследует права доступа пользователя.
Платные действия, такие как создание виртуальной машины или изменение конфигурации, требуют явного подтверждения пользователем. Перед выполнением такой операции помощник показывает, какое действие будет совершено и сколько оно будет стоить. Только после согласия пользователя отправляется запрос в API.
Все запросы обрабатываются внутри инфраструктуры Cloud.ru. Данные передаются в модели только в контексте текущего запроса.
Принципы хранения диалогов:
В аналитической базе идентификатор пользователя маскируется — вместо него сохраняется псевдоним. Это позволяет анализировать обезличенную статистику использования, не связывая ее с конкретным пользователем.
Пользователь может в любой момент очистить историю диалога в чате. Все сообщения и контекст удаляются, восстановить их невозможно.
Данные пользователей не используются для дообучения моделей. Диалоги передаются в языковую модель только для обработки текущего запроса и не сохраняются в обучающих выборках.
Все внешние коммуникации защищены с помощью HTTPS.
Дополнительные меры безопасности:
Маскирование токенов и API-ключей в логах — перед записью в логи из заголовков удаляются Bearer-токены и ключи доступа, вместо них отображаются только первые несколько символов. Это позволяет сохранить возможность отладки, не раскрывая полные учетные данные.
Маскирование паролей в теле запросов — поля с паролями, например password и linux_password, заменяются на звездочки до того, как запрос будет записан в логи.
Фильтрация персональных данных — перед отправкой запроса в языковую модель срабатывает PII-скраббер. Он автоматически обнаруживает и удаляет из текста чувствительную информацию: JWT-токены, приватные ключи (PEM), адреса электронной почты и номера телефонов. Это гарантирует, что личные данные клиента не покидают безопасный контур Cloud.ru даже в рамках обработки LLM.
Гига-помощник отвечает на вопросы по документации, помогает создавать и управлять ресурсами, анализирует расходы. Критические операции, особенно платные, помощник не выполняет без явного подтверждения пользователя — агент только показывает, какое действие будет совершено и сколько оно будет стоить. Окончательное решение остается за пользователем.
Что остается под контролем пользователя:
Подтверждение критических операций — перед удалением, изменением конфигурации или другими действиями, которые могут повлиять на работу ресурсов, Гига запрашивает явное согласие пользователя. Помощник показывает, какое действие будет выполнено, и только после подтверждения отправляет запрос в API.
Встроенные механизмы защиты (guardrails) — все запросы проходят автоматическую проверку: блокируются попытки внедрения вредоносных инструкций (prompt injection), загружаемые файлы сканируются на наличие паролей и ключей, а кастомные инструкции проверяются на небезопасные команды, например отключение firewall. Это предотвращает несанкционированные действия в случае компрометации диалога.
Если у пользователя недостаточно прав для запрошенной операции, API Cloud.ru отклонит запрос.