С помощью этой инструкции вы переключитесь между источниками моделей и датасетов, используя библиотеку switchhub.
Вы сможете переключаться между Hugging Face и Repo, не меняя привычный интерфейс.
Перед настройкой переключения:
Убедитесь, что перед началом настроена аутентификация по API-ключам.
Сохраните ID проекта.
Чтобы скопировать ID проекта:
В верхней панели меню раскройте список всех проектов.
В строке с проектом нажмите
и выберите Скопировать ID проекта.
ID будет скопирован в буфер обмена.
Просмотреть и скопировать ID любого проекта можно также в разделе Администрирование, на вкладке Каталоги и проекты.
Чтобы настроить переключение между источниками моделей и датасетов:
Установите утилиту switchhub.
pip install switch-hub
Создайте файл .env в корне репозитория и добавьте туда свои токены доступа. Пример файла:
HF_TOKEN="hf_xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx" # Hugging Face access tokenRH_TOKEN="<API key>" # Cloud.ru API key
(Опционально) Вы можете указать токены доступа при создании объекта класса.
Рекомендуется использовать способ из шага 2.
from switch_hub import HubSwitcherswitcher = HubSwitcher(hf_token="hf_xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx",rh_token="<API key>")
Добавьте в код переключение между источниками моделей с помощью токенов.
Пример реализации:
from transformers import AutoModelfrom switch_hub import HubSwitcher# Create a class objectswitcher = HubSwitcher()# Switch to Hugging Face Hubswitcher.switch_to_hf()# Clone the model to cache from Hugging Facemodel = AutoModel.from_pretrained('some_user/some_model')# Switch to Repo Cloud.ru and push the model to Reposwitcher.switch_to_rh()model.push_to_hub('project_id/model_repository_name')# Add operation with the model if necessary# Clone model from Cloud.ru Repomodel_mr = AutoModel.from_pretrained('user_id/model_repository_name')# Switch to Hugging Face Hub and push the updated model to Hugging Face Hubswitcher.switch_to_hf()model_mr.push_to_hub("some_user/some_model")
Где:
project_id – идентификатор вашего проекта в console.cloud.ru;
model_repository_name – название репозитория модели.