Какие новости за июль — дайджест Cloud.ru

Чтобы сделать работу в публичном облаке, построенном на собственных разработках, еще удобнее, научили Гига-помощника:

• устанавливать ops-agent на виртуальные машины — теперь агент собирает более подробные данные о хостах для сервисов мониторинга и логирования;

• изменять размер диска и вычислительный ресурс кластера Evolution Managed Redis — с помощью помощника можно увеличить объем дискового пространства на 20% и более.

AI Factory

Evolution ML Inference

Новые возможности для работы с инференсами в сервисе для запуска и развертывания ИИ и LLM-моделей:

• Монтирование бакетов S3 Object Storage в Docker RUN. Путь до бакета можно указать для новых и ранее созданных инференсов.

• Кеширование CUDA Graph. Модели быстрее запускаются при масштабировании, а serverless-инференс работает стабильно даже при пиковой нагрузке. 

• Cron-расписание масштабирования. По заданному расписанию количество GPU увеличивается или уменьшается, что позволяет заранее подготовить ресурсы к нагрузке и снизить затраты в периоды низкой активности.

Evolution Foundation Models

• Добавили новые модели. Они готовы к использованию сразу после подключения.

• Открыли исходный код Guardrails Filter — инструмента для защиты чувствительных данных при работе с большими языковыми моделями. Guardrails Filter работает как прозрачный обратный прокси между клиентом и LLM-провайдером: удаляет чувствительные данные из запросов и восстанавливает их в ответах. Подробнее о правилах защиты — в документации.

Evolution Notebooks

Добавили два новых статуса для ноутбуков:

• «Ожидает ресурсов»;

• «Подготовка окружения».

Подробнее о статусах — в документации. 

Evolution Data Platform

Evolution Managed Trino 

Добавили в сервис поддержку каталога Kafka. Теперь в одном SQL-запросе можно работать с топиками Kafka и объединять их данные с СУБД и S3. 

Другие сервисы

Evolution Managed Redis

Обновили доступные версии Redis в облачной базе данных для высокопроизводительного кеширования:

• добавили версию 7.2.15;

• версию 7.2.14 больше не поддерживаем.

Evolution Object Storage 

Обновили правила работы с объектами, политиками доступа и ролями:

• Теперь для холодного и ледяного классов хранения минимальный размер объекта — 128 КБ. Если объект меньше, при расчете стоимости его размер округляется до 128 КБ. Правило действует только для новых объектов, ранее загруженные объекты тарифицируются по старым правилам. Подробнее — в документации.

• Ограничение на Bucket Policy — 64 КБ. Максимальный размер политики доступа к бакету теперь составляет 64 КБ.

• Новая роль s3e.auditor. Позволяет просматривать конфигурацию и структуру хранилища без доступа к скачиванию данных. Роль удобна для аудита и комплаенс-проверок. Подробнее — в документации.

Evolution Managed Kubernetes

Добавили поддержку Kubernetes версии 1.36.

Резервное копирование

Добавили возможность создавать инкрементальные копии. Тип копии теперь можно выбрать при создании плана резервного копирования. Подробнее — в документации.

Evolution Distributed Train

Обновили статусы Jupyter Server. Добавили статусы:

• «Ожидает ресурсов»;

• «Подготовка окружения».

Для Jupyter Server, остановленных по автовыключению, добавили:

• «Остановлен по времени»;

• «Остановлен по нагрузке»;

• «Остановлен по расписанию».

Обновили образ jupyter-cuda 0.0.101. Повысили версию Python до 13.3, что расширило возможности разработки и совместимость с новыми библиотеками. Подробнее о базовых образах — в документации.

Обновили образ Marimo-hub до версии 0.2.0. В новой версии:

• добавили подключение по SSH к Marimo Hub для управления и отладки;

• добавили SSE-событие type: "marimo" с полями status и pid для отслеживания состояния окружений в реальном времени;

• изменили каталог создания UV и Conda-окружений на /home/jovyan/.mlspace/envs, сохранив подключение к окружениям в /home/jovyan;

• обновили Go-сервер Marimo Hub до версии 1.25.0;

• исправили получение статуса окружения «Готово», чтобы устранить ошибку 404 при запуске Marimo;

• добавили ошибку 503 с пояснением, если свободных портов нет.

Подробнее — в документации.

Обновили отображение проекта при выборе воркспейса. Теперь при создании правила переноса для каждого воркспейса отображается название проекта, к которому он относится.

Добавили новые возможности. Теперь можно:

• переносить несколько серверов сразу из одной очереди в другую;

• управлять нагрузкой при переносе серверов между очередями;

• выгружать данные из вкладок «Серверы», «Задачи», «Jupyter Servers», «Поды» и «Воркспейсы» в формате CSV.

На главную страницу личного кабинета добавили виджет «Баланс». С его помощью можно смотреть остаток денежных средств и действующих грантов, а также пополнять баланс и активировать промокоды.

Настройки и администрирование 

Добавили роли наблюдателя для организации и проекта:

• «Наблюдатель организации» — доступ только на просмотр на уровне организации;

• «Наблюдатель проекта» — доступ только на просмотр на уровне проекта.

Роли помогают быстрее назначать права и снижать риск избыточных разрешений. Для них уже настроен набор разрешений для платформ и сервисов. Подробнее — в документации.

Новый сервис Advanced GeminiDB для работы с данными 

Managed multi-model NoSQL с разделением compute и storage. В сервисе доступны API:

• Cassandra (CQL) — широкие таблицы, write-intensive, большие объемы данных и поддержка DynamoDB-совместимого режима;

• Redis — кеш, сессии, счетчики и лидерборды;

• InfluxDB — временные ряды, метрики, телеметрия и IoT.

Подробнее — в документации на английском языке.

Провайдер Terraform

Выпустили версию 1.12.20:

• добавили поддержку DataPlane v2 для типа сети контейнера vpc-router;

• исправили ошибку с обновлением сертификата CCE.

Подробнее об обновлении — в релизе.

Advanced Data Warehouse Service

Добавили в сервис возможность создавать кластеры с раздельным хранением и вычислениями.

Advanced Cloud Bastion Host

Обновили API сервиса.

Обновили документацию «Правила Affinity и Anti-Affinity» и рекомендации по использованию.