Курс Inference
Уровень подготовки
Для прохождения курса потребуются знания основ ML и устройства программных сервисов
Бесплатный доступ
Полный комплект учебных материалов курса без скрытых платежей и ограничений
Удобный график
К курсам можно приступить в любой момент и проходить в комфортном для себя темпе
Практический результат
Сможете спроектировать serving path, latency budget и требования к вычислительным ресурсам
Кому подойдет курс
ML-инженерам
Научатся выбирать режим инференса и оптимизировать путь запроса под SLO и стоимость
Бэкенд-инженерам
Разберутся в упаковке модели, API-контрактах, масштабировании и согласовании preprocessing
SRE
Смогут оценивать ресурсы, tail latency, отказоустойчивость и варианты деградации сервиса
Что вы узнаете на курсе
Как выбрать режим инференса
Сравните batch, online и streaming по свежести, задержке, пропускной способности и стоимости
Как ускорить инференс
Научитесь находить узкие места и оценивать batching, caching, quantization и compilation с контролем качества
Как организовать обслуживание модели
Разберете упаковку модели, model servers, API-контракты и одинаковый preprocessing при обучении и инференсе
Как рассчитать ресурсы и масштабирование
Сформируете latency budget, учтете p95/p99, warm-up, concurrency, autoscaling и fallback-сценарии
Как проходит обучение
Курс доступен сразу после регистрации на платформе LMS. Все уроки и прогресс обучения отражаются в личном кабинете
Автор курса
Линейка из 11 курсов о проектировании и разработке ML систем, которые помогут освоить методы создания эффективных и масштабируемых решений в облаке
