«Аватар Машина» использует ML Space для обучения и инференса ИИ-моделей, запуска и проверки продуктовых гипотез
Как ресурсы облачной платформы ML Space помогли упростить и ускорить полный цикл ML-разработки продуктов компании.
О компании
«Аватар Машина» — компания, специализирующаяся на разговорном искусственном интеллекте, генеративных чат-ботах для игр, медиа и бизнеса.
Решения «Аватар Машины» позволяют существенно увеличивать вовлеченность пользователей за счет создания эффекта свободного «человечного» разговора в чат-ботах, качественной вопросно-ответной системы и генератора описаний продуктов для электронной коммерции.
Компания движется к созданию свободного маркетплейса ИИ-моделей когнитивных возможностей человека.
Цель проекта
Заказчику необходимы облачные сервисы, чтобы:
- эффективно обучать ИИ-модели и оперативно размещать их в облаке для использования в производстве с минимальными настройками;
- экономить ресурсы GPU для обучения и инференса ИИ-моделей;
- гибко управлять ресурсами — иметь возможность быстро переключаться между CPU и GPU без смены сервера и сложных перенастроек конфигурации.
Поэтому менеджеры «Аватар Машины» задались целью найти надежного облачного провайдера, который предложит экономически выгодную политику использования мощностей и обеспечит гибкость при настройке выделенных ресурсов. Благодаря стабильным и удобным инструментам компания сможет планировать развитие и управлять качеством конечных продуктов.
Почему Cloud.ru
Команда «Аватар Машины» тестировала множество облачных провайдеров, в числе которых была Cloud.ru. Одним из частых недостатков облаков-конкурентов заказчик выделил невозможность быстрой смены графических процессоров, а также отсутствие системы переноса данных и настроек операционной системы при смене сервера. В результате команда выбрала Cloud.ru — её устроило качество работы сервисов облачной платформы ML Space и привлек большой запас мощностей.
Решение
В процессе миграции на ML Space команда Cloud.ru вместе со специалистами «Аватар Машины» успешно перенесли важные настройки Jupyter-ноутбуков заказчика. Сейчас «Аватар Машина» использует модули Environments и Deployments на платформе ML Space для обучения и инференса ИИ-моделей, запуска и проверки продуктовых гипотез. Все это время техническая поддержка провайдера успешно решает возникающие вопросы.
Результат
Облачные сервисы Cloud.ru соответствуют заданным критериям компании и выполняют поставленные задачи.
У команды разработчиков «Аватар Машины» упростился полный цикл ML-разработки, так как следить за обучением в Jupyter-ноутбуке легче, чем на сервере с GPU. Поток стандартных задач по подготовке кода и его загрузке, загрузке датасета и обучению ИИ-моделей ускорился в 1,7 раза. Скорость развертывания ИИ-моделей увеличилась в 2 раза за счет интерфейсов настройки параметров и встроенного REST API, тогда как на другом облаке нужно развертывать ИИ-модели на фреймворках Flask или FastAPI.
Дальнейшие планы
Как только станет необходимо, «Аватар Машина» нарастит мощности для обучения и переобучения ИИ-моделей в соответствии со своей стратегией развития.
«В небольшой компании очень важен гибкий, поэтапный процесс адаптации при подключении облачных сервисов и особенно мощных графических процессоров для обучения тяжелых нейросетей. Специалисты из Cloud.ru помогали настроить сервисы, отвечали на вопросы, советовали лучшие практики применения. А высокая надежность ресурсов и их прозрачная статистика использования сильно повлияли на решение мигрировать в облако Cloud.ru, работой которого мы довольны»
«Облачные сервисы позволяют гибко наращивать нагрузку тогда, когда это требуется. Для компаний, которые постепенно развиваются и строят большие планы — это оптимальный вариант, который дает возможность оптимизировать затраты и при этом использовать надежные сервисы с круглосуточной поддержкой. Уверен, что “Аватар Машина” воплотит свои планы по созданию маркетплейса ИИ-моделей и мы окажем им поддержку по их реализации»
Запросите бесплатную консультацию по вашему проекту
