Agentic Lab запустила ИИ-юриста в облаке Cloud.ru и ускорила работу с документами
ИТ-компания Agentic Lab развернула ИИ-помощника «Агата» для работы с документами на инфраструктуре Cloud.ru. Благодаря этому время подключения дополнительных GPU-ресурсов сократилось с дней до минут. Решение помогает юридическим командам анализировать большие массивы данных, находить нужную информацию в тысячах файлов и выстраивать хронологию событий по делу.
По мере развития продукта Agentic Lab потребовалась облачная платформа, которая обеспечит доступ к современным GPU-ресурсам для генеративного ИИ, позволит быстро масштабировать вычислительные мощности и при этом будет соответствовать требованиям законодательства по работе с данными.
Переход на инфраструктуру Cloud.ru позволил компании ускорить масштабирование ИИ-сервисов и оптимизировать затраты. Если раньше подключение дополнительных GPU занимало один-два дня, то теперь — всего 5-10 минут. В итоге автоматизация рутинных операций помогает юридическим командам выполнять ряд задач примерно в два раза быстрее, среднее время ответа ИИ-помощника составляет 15-20 секунд.
В данный момент языковые модели «Агаты» работают в сервисе Evolution ML Inference на GPU, которые выделяются автоматически в зависимости от нагрузки. За разные этапы обработки данных отвечают разные модели. Mistral анализирует документы и извлекает ключевую информацию, а Gemma обеспечивает поиск, суммаризацию и ответы на запросы пользователей. Бизнес-логика приложения, а также его фронтенд и бэкенд размещены в сервисе Evolution Compute. Такой подход позволяет гибко масштабировать вычислительные мощности и оптимизировать затраты за счет оплаты только фактически потребленных ресурсов.
После загрузки документов, сканов и фотографий система автоматически обрабатывает содержимое файлов: распознает текст, извлекает ключевые сущности и метаданные, определяет участников и события и формирует единую базу знаний. На ее основе пользователи могут выполнять поиск на естественном языке, строить хронологию событий по делу и получать ответы со ссылками на первоисточники.
Обслуживание собственного оборудования и аренда выделенных серверов означала постоянные расходы независимо от фактической загрузки. Благодаря сервисам Cloud.ru мы можем гибко наращивать вычислительные мощности по мере роста нагрузки, оплачивать только фактически потребленные ресурсы и соблюдать требования к безопасности данных. Это позволяет нам сосредоточиться на развитии продукта.
Скорость запуска и масштабирования ИИ-сервисов напрямую влияет на эффективность бизнеса. Теперь команда Agentic Lab может развивать продукты, не покупая дорогостоящие серверы и сокращая время релизов. В дальнейшем Agentic Lab планирует расширять возможности платформы "Агата", например, интегрировать с базами НПА, добавлять новые сценарии работы с документами и запускать другие ИИ-продукты на базе сервисов Cloud.ru.