Что нового

Теперь вы можете изменять квоты на объем хранилища в зависимости от утилизации в каждом регионе. Максимальное значение указано в интерфейсе.

При создании Jupyter Server появилась возможность задавать для него расписание автоматической остановки выключения.

Появилась возможность останавливать Jupyter Server с пользовательским образом в интерфейсе JupyterLab.

Добавили в client_lib метод get_available_resources_count для определения количества воркеров, на которых можно запустить задачу обучения с учетом instance_type.

Добавили в логи статус задачи и информацию для случая, когда она завершилась с ошибкой OOMkilled, и описали возможные решения.

Теперь добавить или удалить пользователей из воркспейса может только администратор воркспейса в личном кабинете.

Добавили возможность просматривать общее количество GPU в Jupyter Server и общее количество Jupyter Server по фильтрам в разделе Environments → Аллокации.

Отказались от устаревших API-методов и пометили их как deprecated. Стабильная работа методов не гарантируется.

Полный список устаревших методов

Теперь в методах для создания (Create Transfer) и изменения (Update Transfer) правил переноса нет параметра legacy = truе и работает новая схема логирования. Замените устаревшие методы на новые — они указаны в описаниях к методам в документации Data Transfer Service.

18 февраля методы получения логов Get Transfer Logs и Transfer Logs станут недоступны. Получать логи необходимо через метод Event Logs по новой схеме логирования. Чтобы использовать ее, обновите существующие периодические переносы и пайплайны, иначе в API response будут пустые логи или ошибки 404.

В публичный API добавлены новые асинхронные методы для удаления и остановки Jupyter Servers. Старые методы удаления и остановки остаются доступными.

Описали, как собрать Docker-образ для задачи обучения на основе любого пользовательского образа, а не только базовых образов платформы.

Для использования индивидуальных Jupyter Servers в воркспейсах, созданных до 01.11.2024, обновите воркспейс.

Добавлена вкладка мониторинга в карточке Jupyter Server. В нее также можно попасть, перейдя в Environments → Jupyter Servers и нажав .

Автоматизировали параметр action из группы health_params в client-lib и публичном API. При зависании задача остановится или перезапустится в зависимости от того, какое значение параметра было задано.

Стали активными, и по ним можно перейти.

28 февраля 2025 года прекратим поддержку и скроем из интерфейса

• Объектное хранилище ML Space,

• сервисы DataHub, Model Registry и Dataset Registry.

Сохраните метаинформацию из Dataset Registry и Model Registry, если она необходима вам для дальнейшей работы. Вместо S3 ML Space используйте другие сервисы Cloud.ru: Object Storage Service Advanced или Object Storage Evolution, вместо DataHub — Маркетплейс.

Добавлена возможность переносить данные на NFS через Data Transfer Service в пространство индивидуальных Jupyter Server — NFS ML Space Personal Directory.

Индивидуальный Jupyter Server — изолированный Jupyter Server, который доступен только пользователю, создавшему его. Сейчас использовать такой сервер можно в новых воркспейсах, созданных после 1 ноября 2024.

Благодаря интеграции с сервисом клиентского мониторинга MonaaS появился мониторинг утилизации ресурсов. Это позволяет управлять загрузкой вычислительных мощностей и оптимизировать их во время работы с Jupyter Server и обучения моделей.

Теперь можно назначать пользователям роли на воркспейсы.

Появилась возможность настроить уведомления о зависании задач в Telegram или на email.

В новой версии 0.0.97:

• Исправлены ошибки в функциях нового файлового браузера:

  • CopyPath;

  • ShowInBrowser;

  • скачивание, копирование, распаковка файлов;

  • загрузка файлов в JupyterLab.

• Улучшено автодополнение команд в терминале.

• Исправлена ошибка, при которой файловый браузер относился к нескольким Jupyter Server.

• В конфигурации sshd по умолчанию увеличено количество возможных соединений SSH для стабильной одновременной работы нескольких пользователей.

Переработали структуру, чтобы упростить дерево статей. Создали раздел Концепции и собрали в нем:

• описания модулей, из которых состоит платформа, и логики работы с ней;

• статьи про основные сущности и понятия платформы;

• справочную информация — список образов, описание ролей, параметров, ограничений.

Начинаем отказываться от устаревших API-методов и помечаем их как deprecated. В будущем не гарантируется их стабильная работа. Просим проверить наличие deprecated-методов по документации Data Transfer Service и обновить их на новые.

18 февраля 2025 года полностью отказываемся от старой схемы логирования переносов в Data Transfer Service. Обновите существующие периодические переносы и пайплайны, в которых используется API Data Transfer Service.

• Если работаете через API, пересоздайте необходимые правила переносов с параметром legacy = false. Замените deprecated-методы GET /public/v2/data_transfer/v1/transfers/{transfer_id}/logs, GET /public/v2/data_transfer/v2/transfer/aicloud-logs/{transfer_id} на GET /public/v2/data_transfer/v2/events/list.

• Если используете UI, перейдите в Data Catalog → Data transfer service → Правила переносов, найдите нужное правило переноса, откройте меню и нажмите Создать новую версию.

• Если остаться на старой схеме логирования, в API response придут пустые логи и возникнет ошибка 404.

При использовании устаревших методов или параметров client-lib и публичного API вы получите сообщение с предупреждением и альтернативными вариантами.

В новой версии 0.0.96 добавлены:

• плагин jupyter-archive;

• собственный плагин для работы с файловым браузером — можно добавлять браузеры для любой директории, создается браузер по умолчанию для каталогов /workspace и /home/jovyan;

• плагин torch-tb-profiler;

• пакет GigaChat;

• переработаны права на удаление SSH-ключей.

Теперь можно отключать уведомления собственного плагина в JupyterLab.

Решены проблемы с cwd при внедрении мультибраузеров и удалением ключей в SSH.

Образ jupyter-cuda12.3-pt2.4.0:0.0.95 позволяет работать без conda. В нем:

• установлены CUDA версии 12.3 и Pytorch версии 2.4.0;

• переработаны права на удаление SSH-ключей;

• добавлен tmux.

Список установленных пакетов в образе

Обновили примеры запуска задач обучения на GitHub — добавили фреймворки Hugging Face, PyTorch Elastic Learning и PyTorch Lightning.

Обучающие материалы

Подключите уведомления на email о том, что использовано 80%, 90%, 98% и 100% от лимита на объем или количество файлов.

Вы можете указать бакет S3 Evolution в качестве источника или места назначения при создании правил переноса.

В образах py3.10-torch2.3.0, py3.11-torch2.3.0, py3.11-torch2.4.0 обновлены версии Python и PyTorch.

Список установленных пакетов в образе

В интерфейсе ML Space при работе с Jupyter Server отображается имя пользователя, создавшего его.

В разделе собрали типовые ошибки и описали способы их решения.

По умолчанию подключенные уведомления приходят только в личный кабинет. Чтобы быстрее реагировать на исчерпание места, подключите уведомления в Telegram.

Уведомления приходят, когда использовано 80%, 90%, 98% и 100% от лимита на объем или количество файлов.

В регионах Cloud.Region.HP1 и Cloud.Region.HP добавили instance_type, позволяющие использовать до 1,5 ТБ RAM.

Документация client_lib

Чтобы посмотреть логи событий ML Space, необходимо выбрать в качестве сервиса-источника MLS-NTB (Jupyter Servers), MLS Data Transfer и MLSpace.Jobs. Список статусов приведен в Справочнике событий.

Уведомления от ML Space появятся в колокольчике, даже если вы находитесь на другой платформе Cloud.ru.

Использование параметра internet дает возможность доступа в интернет из задач обучения в регионах, где такая возможность прежде отсутствовала.

До 04.07.2024, если новый параметр internet не будет указан, то действие параметров forbid_internet и forbid_s3 при запуске задач обучения сохранится прежним.

После 04.07.2024 параметры forbid_internet и forbid_s3 будут отключены. Вместо них используйте параметр internet.

Описание параметра internet

В новой версии 0.0.95:

• убрали фантомные уведомления;

• повысили стабильность работы Tensorboard;

• оптимизировали авторизацию в Jupyter Server;

• улучшили отзывчивость и скорость работы интерфейса Jupyter Server.

• обновили версию mlspace-sdk до 0.23.2:

  • добавили возможность обновления client_lib независимо от версии Jupyter Server;

  • обновили механику подключения по SSH через CLI в задачах обучения;

  • поправили отображение версии CUDA и Python в CLI.

Задачу обучения можно перезапустить вручную через интерфейс. Будет создана новая наследуемая задача с теми же параметрами, что и у родительской.

Как перезапустить задачу обучения

Создать заявку в техническую поддержку теперь можно из списка задач.

Как быстро сообщить о проблеме с задачей обучения в техническую поддержку?

Сделать коннектор публичным, то есть доступным всем пользователям воркспейса, можно при создании через интерфейс платформы или с помощью публичного API v3.

Как поделиться коннектором

Опубликованы теоретические и практические материалы по использованию DDP в обучении моделей.

В новой версии 0.0.94:

• вернули плагин Tensorboard;

• обновили версию Jupyter Notebook до 7;

• поправили проблемы использования переменных окружения при использовании SSH подключения к Jupyter Notebook;

• обновили версию mlspace-sdk до 0.22.2;

• добавили возможность использования SSH в задачах обучения;

• поработали над компактностью, теперь образ весит 1,4 ГБ.

Для задач обучения с заданным количеством запусков теперь можно скачать логи отдельно по каждому запуску.

Сообщения в логах об изменении статусов воркеров стали более читаемыми.

Как проверить логи после запуска обучения

Необходимо обновить публичные SSH-ключи на локальных машинах.

Ошибка WARNING: REMOTE HOST IDENTIFICATION HAS CHANGED!

В разделе Задачи и окружения можно узнать фактическое и максимально возможное количество запусков для каждой задачи обучения.

С 12.12.2023 изменятся URL-адреса для доступа к Jupyter Servers, docker-образам, SSH, GitLab и public API. Переведите на новый домен технические решения, в которых используются эти ресурсы.

Переход на домен cloud.ru

В интерфейсе отображается больше информации об образе: доступность в регионах, дата загрузки, версии установленных Python, CUDA, Tensorflow. Появилась возможность выбрать версию образа и найти нужный образ по названию.

Создать Jupyter Server и подключиться к нему через интерфейс ML Space

Узнать лимит на количество файлов в хранилище NFS теперь можно на главной странице или из раздела Воркспейсы.

Узнать или изменить квоты NFS

Через параметр legacy вы можете задать схему логирования при создании правила переноса в пайплайнах.

Образы для задач обучения с тегом 0.0.36, в которых установлены версии CUDA до 12.1, Python до 3.11, Torch до 2.0.

Список библиотек в базовых образах для задач обучения

В образ cr.ai.cloud.ru/aicloud-jupyter/jupyter-server версии 0.0.90 и выше можно установить требуемые версии CUDA и Python.

С помощью health_params в client_lib и в API можно отслеживать зависшие задачи обучения и задавать, какие действия выполнять в случае зависания.

Если запустить задачу с несуществующим образом через client_lib или API, это вызовет ошибку. Задача не будет отправлена на выполнение в регион и не займет ресурсы.

Вы можете выбрать корректный образ из списка образов для задач обучения, а также создать или загрузить собственный кастомный образ.

Появилась новая схема логирования. В ней события одного типа группируются в одну запись, которая содержит количество объектов и путь до последнего.

Операции над правилами переноса данных

Использование параметра checkpoints_dir упрощает сохранение промежуточных результатов обучения модели, если в задаче обучения возникли технические ошибки.

Описание параметра checkpoints_dir

При создании Jupyter Server рядом с названием конфигурации отображается цветовая индикация, которая показывает загруженность ресурсов.

Создать Jupyter Server и подключиться к нему через интерфейс ML Space

Добавили в карточку деплоя новую вкладку с информацией о последних 200 экземплярах деплоя, включая статус и тарифицируемое время.

Как проверить состояние деплоя