Новосибирский государственный университет использует ресурсы облака Cloud.ru Evolution для размещения умного чат-бота в Telegram
Студенты IT-лаборатории НГУ используют ресурсы облака Cloud.ru Evolution для проекта — размещения чат-бота на базе большой языковой модели, который выдает ответы на вопросы абитуриентов и студентов быстрее, чем за 10 секунд.
О компании
Новосибирский государственный университет — пример эффективной интеграции образовательного процесса и научной деятельности. На базе механико-математического факультета НГУ работает лаборатория прикладных цифровых технологий, в которой проводят разработки на базе искусственного интеллекта.
Задача
Один из проектов лаборатории прикладных цифровых технологий — умный чат-бот в Telegram на базе больших языковых моделей. На сайте университета есть интеллектуальная база знаний, с помощью которой можно найти информацию или ответ на вопрос. Цель бота — упростить этот процесс и сократить поиск до нескольких секунд. Чат-бот поможет решить сразу несколько задач университета:
- привлечь абитуриентов — все, кто интересуется университетом, смогут быстро находить ответы на вопросы по поводу поступления, обучения, кампуса и т. д.;
- разгрузить службу поддержки — сотрудники поддержки смогут оперативно находить ответы на вопросы и обрабатывать заявки, которые поступают от студентов и коллег (например, как изменить пароль от личного кабинета, получить доступ к почте и т. п.);
- упростить поиск изображений по внутренней базе знаний — сотрудники смогут быстрее находить нужные фотографии, чтобы использовать их для постов в социальных сетях университета.
Сотрудники лаборатории планировали разместить решение, протестировать его, показать демоверсию внутренним заказчикам, а затем уже выпустить сервис в открытое пользование. Нужны были вычислительные ресурсы с возможностью масштабирования и непрерывной работы. В итоге для решения этой задачи НГУ выбрали облачные ресурсы провайдера Cloud.ru.
Почему Cloud․ru
Сотрудники НГУ пробовали работать с разными провайдерами, но ни одна из предложенных схем работы не подошла университету. При этом схема оплаты и условия договора, которые предложили в Cloud.ru, полностью соответствовали требованиям образовательной организации. Также сотрудникам НГУ понравились:
- индивидуальный подход — взаимодействие с менеджером и процесс подбора, настройки и согласования прошли очень гладко и оперативно;
- отсутствие сбоев и непрерывная работа на этапе тестирования решения;
- удобные настройки и администрирование в консоли.
Нам было важно, чтобы работа в консоли была простой и удобной — мы занимаемся проектом чисто научной командой и не могли выделить отдельного технического специалиста, который взял бы на себя настройку сложной инфраструктуры.
Решение
Сотрудники НГУ самостоятельно развернули виртуальную машину с нужными параметрами, подключились к ней, настроили окружение и затем перенесли проект и развернули его. Для размещения выбрали виртуальную машину с GPU 4 vCPU/64 ГБ RAM/1 GPU V100 на облачной платформе Cloud.ru Evolution, которая идеально подходит для задач машинного обучения, искусственного интеллекта и обработки трехмерной графики. Также она позволяет масштабироваться по мере необходимости и эффективно использовать ресурсы — по модели pay-as-you-go.
Также для защиты облачной инфраструктуры команда университета использует сервис Evolution Security Groups, который представляет набор правил для управления доступом к облачным ресурсам, чтобы контролировать входящий и исходящий трафик виртуальных машин.
Мы развернули и перенесли проект за несколько часов и уже могли тестировать и показывать его. Если возникали вопросы, мы обращались к специалистам технической поддержки, и они оперативно их решали. Например, не сразу разобрались с сервисом Evolution Security Groups, хотя впоследствии это решение нам очень понравилось. Особенно удобно, что оно вынесено сразу в консоль платформы с виртуальными машинами.
Результат
Решение уже показали внутренним заказчикам в режиме демоверсии. Коллегам всё очень понравилось, поэтому после небольших доработок бота покажут уже на широкую аудиторию.
Особенно актуален поиск по изображениям — у нас большая база фотографий, которые мы используем для публикации постов в социальных сетях университета. Искать изображения вручную очень долго, а с помощью умного нейросетевого поиска можно ввести запрос и быстро получить максимально подходящее изображение.
Ответ модели занимает буквально пару секунд. Сервис проводит анализ источников и выдает конкретный ответ, а также прикладывает источники, на которых базируется ответ. Теперь не придется заходить в базу знаний университета, чтобы уточнить информацию и корректно и быстро ответить на заявку.
Планы
НГУ планирует продолжить сотрудничество с Cloud.ru и в будущем использовать облачные ресурсы для реализации еще нескольких проектов.
В планах сделать искусственного семинариста, который будет помогать действующим студентам в конкретной предметной области, отвечать на вопросы по точечным и узкоспециализированным темам. Еще университет интересует мультимодальная модерация или копирайтинг данных — этот проект также удобно будет развернуть на мощностях Cloud.ru.
Здорово, что новые технологии так активно внедряются в образование. Как провайдер облачных сервисов и AI-технологий мы надеемся, что проект поможет абитуриентам быстрее находить ответы на вопросы об университете, сформирует у молодых людей положительное впечатление об НГУ и желание приобщиться к развитию цифровых технологий.