Облачная платформаEvolution

Одиночные запросы (промпт-режим)


В инструкции описано, как использовать Foundation Models для генерации одиночных запросов с помощью стандартной библиотеки OpenAI. Такой подход подходит для задач, где требуется один полный ответ без поддержания контекста диалога.

Для отправки одиночного запроса:

  1. Сохраните сгенерированный API-ключ в переменную окружения API_KEY.

  2. Установите библиотеку OpenAI:

    pip install openai
  3. Инициализируйте клиента OpenAI:

    import os
    from openai import OpenAI
    api_key = os.environ["API_KEY"]
    client = OpenAI(
    base_url="https://foundation-models.api.cloud.ru/v1",
    api_key=api_key
    )
  4. Отправьте простой запрос:

    response = client.chat.completions.create(
    model="openai/gpt-oss-120b",
    messages=[{
    "role": "user",
    "content": "Напиши 5 четверостиший о школе на последний звонок."
    }],
    )
    print("User: Напиши 5 четверостиший о школе на последний звонок.")
    print("Model:", response.choices[0].message.content)
  5. Отправьте расширенный запрос:

    response = client.chat.completions.create(
    model="t-tech/T-pro-it-1.0",
    messages=[
    {
    "role": "system",
    "content": "Ты опытный копирайтер"
    },
    {
    "role": "user",
    "content": "Напиши продающий текст для умной лампы. Текст должен удовлетворять условиям: 1. Состоять из максимум 100 слов. 2. Не содержать штампов и клише."
    }
    ],
    temperature=0.7,
    top_p=0.9,
    max_completion_tokens=300,
    frequency_penalty=0.5,
    presence_penalty=0.3,
    )
    print("\n\nSystem prompt: Ты опытный копирайтер")
    print("User: Напиши продающий текст для умной лампы. Текст должен удовлетворять условиям: 1. Состоять из максимум 100 слов. 2. Не содержать штампов и клише.")
    print("Model:", response.choices[0].message.content)

Пример вывода:

Умная лампа Lumos Pro — революция в освещении! Автоматическая настройка яркости, 16 млн оттенков и управление через приложение.
Создайте идеальную атмосферу для работы, отдыха или романтического вечера...