Описание параметров для запроса к версии базы знаний
В этой статье содержатся описания сложных составных параметров, которые используются при отправке запросов к версии базы знаний.
LLMSettings
Поле |
Тип |
Описание |
|---|---|---|
systemPrompt |
string |
Системный промпт для LLM. |
temperature |
float |
Температура. Определяет степень оригинальности и импровизации в ответах модели. Значение по умолчанию — 1.0. Допустимые значения — от 0 до 2. |
topP |
float |
Нуклеусное сэмплирование — альтернатива температуре. Значение по умолчанию — 1.0. Допустимые значения — от 0 до 1. |
maxCompletionTokens |
int32 |
Максимальное количество токенов. Ограничивает количество токенов в ответе модели. Значение по умолчанию — 0.0. |
frequencyPenalty |
float |
Штраф за частые токены. Положительные значения уменьшают повторения. Значение по умолчанию — 0.0. Допустимые значения — от -2.0 до 2.0. |
lengthPenalty |
float |
Штраф за длину. Чем меньше значение, тем более короткие ответы дает модель. Значение по умолчанию — 1.0. Допустимые значения — от 0 до 1. |
presencePenalty |
float |
Штраф за новые токены. Положительные значения увеличивают разнообразие. Значение по умолчанию — 0.0. Допустимые значения — от -2.0 до 2.0. |
repetitionPenalty |
float |
Штраф за повторения. Чем выше значение, тем меньше повторений в ответах. Значение по умолчанию — 1.0. Допустимые значения — от 1.0 до 2.0. |
stop |
string |
Стоп-последовательности, разделенные запятыми. Например, "\n,###,Human:". |
- LLMSettings