История изменений сервиса Foundation Models.
Guardrails работает как фильтр на входе и выходе LLM-приложений. На этапе инференса она автоматически проверяет пользовательские промпты и сгенерированные ответы для блокировки вредоносного, неточного или конфиденциального контента. Это предотвращает галлюцинации, снижает риски предвзятости и утечки данных, обеспечивая ответственное использование ИИ без вмешательства в работу самой модели.
Добавлена возможность отслеживать использование ресурсов при работе с моделями.
На вкладке Активность можно посмотреть:
статистику использования моделей за месяц: количество токенов (всего, на запрос, на ответ) и число запросов в разрезе дней и моделей;
детализацию по каждой модели с указанием даты, времени и количества затраченных токенов.
Это обеспечивает прозрачность использования сервиса и помогает контролировать расходы.
- Сервис в Preview
Сервис доступен для бесплатного тестирования всем зарегистрированным пользователям.