Правила защиты обеспечивают безопасность чувствительных данных благодаря системе безопасности Foundation Models Guardrails.
Guardrails работает как фильтр на входе и выходе AI-модели: проверяет пользовательские промпты и сгенерированные ответы. На входе система маскирует конфиденциальные данные, препятствуя их попаданию в модель, а на выходе восстанавливает оригинальные значения для сохранения контекста запроса. Это обеспечивает безопасность при работе с моделью.
Использование правил защиты рекомендуется при работе с внешними моделями.
Правила защиты реализуют механизм маскировки и демаскировки данных.
При обработке запроса чувствительные данные заменяются на плейсхолдеры вида <PLACEHOLDER_N>, где:
PLACEHOLDER — тип данных, указанный в правиле;
N — порядковый номер замены в пределах текущего запроса.
Например, значение mail@example.com будет заменено на <EMAIL_1>.
После получения ответа от модели система выполняет демаскировку данных — восстанавливает оригинальные значения, которые указал пользователь.
Система автоматически фиксирует все случаи обнаружения чувствительных данных в запросах и записывает их в алерты мониторинга. Информацию по уведомлениям о случаях использования чувствительных данных можно посмотреть в алертах мониторинга.
Тип данных | Назначение |
|---|---|
Учетные данные | Секреты аутентификации и доступа к системам: пароли, учетные данные (логины и пароли) в URL и строках подключения к базам данных и очередям, учетные данные в HTTP-заголовках и параметрах запроса, OAuth-токены и секреты клиентов (client secret) в конфигурации и логах и т.п. |
API-ключи | Ключи и токены для программного доступа к внешним API и облачным или SaaS-сервисам: ключи для облачных сервисов, переменные окружения с API-ключами, конфигурационные файлы с ключами доступа и т.п. |
Токены доступа | Сервисные токены и связанные секреты: долгоживущие токены, Personal Access Tokens (PAT), webhook-секреты, ключи CI/CD и репозиториев, облачные access keys и т.п. |
IP-адреса | IPv4 и IPv6, в том числе в нотации CIDR (например, 192.168.1.0/24), включая публичные и приватные диапазоны адресов |
Персональные данные | Идентификаторы и контактные данные физических лиц и организаций: российские телефонные номера (+7, 8), email-адреса, СНИЛС, ИНН физического лица, ИНН организации, ОГРН, ОГРНИП, номера банковских карт, IBAN. |
Правила обнаружения чувствительных данных основаны на собственных шаблонах и шаблонах из открытых баз, в том числе gitleaks.toml.