Быстрый старт

Перед началом работы

1. Зарегистрируйтесь в личном кабинете Cloud.ru.

   Если вы уже зарегистрированы, войдите под своей учетной записью.

2. Убедитесь, что у вас есть доступ к Foundation Models и Object Storage.

3. Скачайте текстовый файл faq_products.txt.

4. Подготовьте документ для базы знаний в Evolution Object Storage.

   1. Создайте бакет.

   2. Создайте папку rag-quickstart-kb в бакете и загрузите в нее файл faq_products.txt, скачанный ранее.

      Список поддерживаемых типов файлов

Создайте базу знаний

1. Перейдите в AI Factory → Managed RAG.

2. Нажмите Создать базу знаний.

3. Введите название и, если необходимо, описание базы знаний.

4. В поле Путь к папке с документами на S3 выберите папку rag-quickstart-kb в бакете Object Storage, куда вы загрузили файл faq_products.txt.

5. В поле Расширения документов введите txt — расширение файла, который будет обработан и сохранен в базе знаний.

6. Нажмите Создать.

Получите генеративный ответ по поисковой выдаче

1. В созданной базе знаний на вкладке Версии рядом с нужной версией нажмите Копировать URL.

2. Получите токен доступа для отправки запросов.

3. В терминале выполните следующий код:

   ---

   curl

   Python

   curl -X POST "<knowledge_base_public_url>/api/v1/retrieve_generate" \
   -H "Content-Type: application/json" \
   -H "Authorization: Bearer <access_token>" \
   -d '{
         "query": "Что такое сервис Evolution Managed Kubernetes?",
         "llm_settings": {
            "model_settings": {
               "model": "t-tech/T-lite-it-1.0"
            },
            "system_prompt": "Вы полезный помощник, который отвечает на вопросы, основываясь на предоставленном контексте."
         },
         "retrieve_limit": 3,
         "n_chunks_in_context": 3,
         "rag_version": "<rag_version>"
         }'
   
   

   Где:

   • <knowledge_base_public_url> — скопированный публичный URL базы знаний;

   • <access_token> — полученный токен доступа с помощью public API Cloud.ru;

   • "query" — текст запроса;

   • "llm_settings" — настройки языковой модели из списка параметров, в том числе model — из списка поддерживаемых моделей;

   • "system_prompt" — промпт для LLM-модели;

   • "retrieve_limit" — количество возвращаемых чанков в поисковой выдаче, значение по умолчанию — 50;

   • "n_chunks_in_context" — количество чанков из поисковой выдачи для контекста LLM, значение по умолчанию — 3;

   • "rag_version" — идентификатор версии базы знаний. Его можно получить на вкладке Информация нужной версии базы знаний.

Что дальше