История изменений сервиса Foundation Models.
Проект системы безопасности Foundation Models Guardrails опубликован на GitHub. Это прозрачный обратный прокси между клиентами и LLM-провайдером, который удаляет чувствительные данные из запросов и восстанавливает их в ответах.
Подробнее о системе безопасности Foundation Models Guardrails
Доступны новые модели, готовые к использованию сразу после добавления.
В разделе Активность в блоке детализации по моделям отображается потребление в разрезе API-ключей. Доступна фильтрация для удобного анализа использования.
В правилах защиты появилась возможность просматривать алерты в разрезе API-ключей. Доступна фильтрация для удобного анализа обнаруженных чувствительных данных.
Guardrails работает как фильтр на входе и выходе LLM-приложений. На этапе инференса она автоматически проверяет пользовательские промпты и сгенерированные ответы для блокировки вредоносного, неточного или конфиденциального контента. Это предотвращает галлюцинации, снижает риски предвзятости и утечки данных, обеспечивая ответственное использование ИИ без вмешательства в работу самой модели.
Добавлена возможность отслеживать использование ресурсов при работе с моделями.
На вкладке Активность можно посмотреть:
статистику использования моделей за месяц: количество токенов (всего, на запрос, на ответ) и число запросов в разрезе дней и моделей;
детализацию по каждой модели с указанием даты, времени и количества затраченных токенов.
Это обеспечивает прозрачность использования сервиса и помогает контролировать расходы.
- Сервис в Preview
Сервис доступен для бесплатного тестирования всем зарегистрированным пользователям.