Как защитить чувствительные данные при работе с LLM с помощью Guardrails

При работе с LLM важно контролировать, какие данные передаются модели и как они проверяются. Среди них могут быть персональные данные, API-ключи, внутренние идентификаторы и другая чувствительная информация.

На вебинаре разберём, как работают Guardrails LLM и Guardrails Filter: чем они отличаются, какие данные помогают обнаруживать и как адаптировать правила проверки под задачи компании. Отдельно рассмотрим, как защитный слой Guardrails работает в контуре Evolution Foundation Models и какую роль в проверке запросов играют модели-классификаторы HiveTrace.

Вы узнаете:

• что такое Guardrails LLM и Guardrails Filter и чем они отличаются;
• какие данные стоит проверять при работе с LLM;
• как модели-классификаторы HiveTrace помогают обнаруживать чувствительную информацию;
• как Guardrails работает в контуре Evolution Foundation Models;
• какие возможности доступны в open source версии Guardrails Filter;
• чем готовые правила отличаются от корпоративных;
• как создавать собственные правила и тестировать их.

На демо покажем работу open source версии Guardrails Filter: разберём основные настройки и структуру правил, проверим запросы на примерах, создадим собственное корпоративное правило и протестируем его до включения в рабочий сценарий.

Вебинар будет полезен:

• специалистам по защите данных и информационной безопасности;
• командам разработки ИИ-приложений;
• тем, кто внедряет и использует LLM в бизнес-процессах.