Описание и условия предоставления услуги «Evolution ML Inference». Приложение № 1.EVO.11.1.

1.1. Evolution ML Inference (далее – Услуга) – это облачное решение для развертывания ML-моделей, которое поддерживает динамическое масштабирование и взаимодействие с разными источниками событий, такими как HTTP-запросы.

1.2.

1.3. Функциональные возможности:

1.3.1. развертывание ML-моделей для обработки запросов или событий;

1.3.2. развертывание контейнеров для обработки запросов или событий;

1.3.3. загрузка моделей из HuggingFace публичных и приватных репозиториев;

1.3.4. автоматическое масштабирование модели в зависимости от нагрузки;

1.3.5. управление и контроль доступа к модели;

1.3.6. мониторинг и сбор статистики по потреблению ресурсов модели;

1.3.7. управление конфигурацией модели.

1.4.

1.4.1. сервис-контроллер для управления Услугой из личного кабинета Облачной Платформы;

1.4.2. компонент сбора данных мониторинга;

1.4.3. компонент, отвечающий за управление жизненным циклом продукта;

1.4.4. компонент, отвечающий за сбор тарификационных данных;

1.4.5. интеграция с сервисом Evolution Artifact Registry;

1.4.6. Платформа Evolution, обеспечивающая выбор

1.5. Обеспечение защиты

Защита инфраструктуры Облачной Платформы обеспечивается на следующих уровнях:

2.1. Параметры

Примечания

[1] : Shared GPU – Заказчику предоставляется возможность частичного потребления GPU-ресурса (в пределах его физического объёма памяти), что позволяет гибко утилизировать ресурсы, а также эффективно (с т.з. цены) размещать ML-модели.

[2] : Кэш ML-моделей: временные файлы, формируемые запущенной ML-Моделью, необходимые для ее работы. Указанное пространство не является хранилищем Заказчика (в т.ч. для долгосрочного хранения информации), очищается автоматически в момент, когда ML-Модель не используется Заказчиком.

3.1. Для данной

3.2. Динамическая тарификация предполагает оплату пула

3.3. Окончательная стоимость

3.4. Объекты тарификации:

3.5. Величина ежемесячного платежа за пользование

3.6. Пример расчета

3.6.1. Для Shared GPU¹

Общая формула расчета:

Где:

Пример расчета (Цена 1Гб H100: 5,625 руб; Запросы: 5 млн; Объем модели: 4 ГБ; Время: 1 час;):

3.6.2. Для Инстанс типов:

Общая формула расчета:

Где:

Пример расчета (Стоимость инстанса: 0.125 ₽/сек; Запросы: 5 млн; Объем модели: 20 ГБ; Время: 1 час.):

4.1. Возможные виды подключения / изменения / отключения

4.1.1. Посредством совершения действий в

4.1.2. В отношении с GPU — в порядке, установленном в пункте п.4.5 Приложения.

4.2. Возможный порядок расчётов по

4.3. Возможные способы оплаты / порядок пополнения

4.3.1. В безналичном порядке на основании выставленного Исполнителем счёта;

4.3.2. оплата посредством электронных средств платежа.

4.4. Требования к инфраструктуре Заказчика:

4.4.1. Наличие доступа в Интернет.

4.5. Стороны установили следующий порядок Заказа GPU/Увеличения объема памяти GPU по Приложению:

4.5.1. Подключение

4.5.2. В течение 3 (трех) рабочих дней Исполнитель обязуется рассмотреть

4.5.3. В случае согласования Сторонами

Примечания

5.1. В соответствии с пп. 1.1.4. вносятся следующие уточнения в уровень предоставления

5.2. Для

5.2.1.

5.2.2.

5.2.3. Компенсация выплачивается пропорционально объёму недоступных

5.3. Во всём остальном в части уровня предоставления