Evolution Foundation Models

Вы можете использовать сервис Evolution Foundation Models только при положительном балансе.

Режим работы моделей для каждого пользователя ограничен — 23 запроса в секунду. Чтобы увеличить производительность, можно развернуть частный экземпляр модели в сервисе Evolution ML Inference.

Модели обладают разными возможностями и тарифицируются по-разному: от 0,02 ₽ до 390 ₽ за 1 млн токенов. Стоимость каждой модели можно посмотреть в чате и на странице модели в Маркетплейсе. Сервис тарифицируется по модели pay-as-you-go — вы платите только за запросы к моделям и их ответы.

В Evolution Foundation Models доступны модели для разных задач: от генерации текста до ранжирования и создания векторных представлений. Полный список моделей и их описание можно посмотреть в Маркетплейсе в категории AI & ML.

Мы регулярно добавляем новые модели, которые показывают наилучшие результаты на открытых бенчмарках. Если вы не нашли нужную модель, обратитесь в службу поддержки.

Вы можете управлять поведением моделей с помощью промптинга и базовых настроек: температуры, top-p, n и других.

Для дообученных и кастомных моделей вы можете запустить инференс в Evolution ML Inference.

Вы можете развернуть любую open source LLM/VLM в выделенной инсталляции на сервисе Evolution ML Inference. Доступны Shared GPU* ресурсы Nvidia V100, A100, H100.

*Shared GPU — возможность частичного потребления GPU-ресурса в пределах его физического объема памяти, что позволяет гибко утилизировать ресурсы, а также эффективно размещать ML-модели с точки зрения цены.

Evolution Foundation Models подходит для экспериментов с моделями и встраивания моделей в бизнес-процессы без разворачивания инференса. Сервис дает доступ к уже развернутым моделям и позволяет общаться с ними через чат и API.

Evolution ML Inference позволяет самостоятельно запускать инференс модели на Shared GPU* ресурсах и обращаться к ней через API.

*Shared GPU — возможность частичного потребления GPU-ресурса в пределах его физического объема памяти, что позволяет гибко утилизировать ресурсы, а также эффективно размещать ML-модели с точки зрения цены.

Наша служба поддержки доступна круглосуточно. Она поможет с любыми вопросами или проблемами, которые могут возникнуть при использовании серверов с GPU.

Обратиться в поддержку можно любым из удобных способов:

• написать в чат в личном кабинете;

• позвонить по телефону 8 800 444-24-99 (звонок из России бесплатный);

• отправить письмо на support@cloud.ru.

Способы обращения в поддержку и рекомендации по составлению заявки.

SLA на сервис Foundation Models составляет 99.9%.