Описание параметров для запроса к версии базы знаний
В этой статье содержатся описания сложных составных параметров, которые используются при отправке запросов к версии базы знаний.
LLMSettings
Поле | Тип | Описание |
|---|---|---|
system_prompt | string | Системный промпт для LLM. |
temperature | float | Температура. Определяет степень оригинальности и импровизации в ответах модели. Значение по умолчанию — 1.0. Допустимые значения — от 0 до 2. |
top_p | float | Нуклеусное сэмплирование — альтернатива температуре. Значение по умолчанию — 1.0. Допустимые значения — от 0 до 1. |
max_completion_tokens | int32 | Максимальное количество токенов. Ограничивает количество токенов в ответе модели. Значение по умолчанию — 0.0. |
frequency_penalty | float | Штраф за частые токены. Положительные значения уменьшают повторения. Значение по умолчанию — 0.0. Допустимые значения — от -2.0 до 2.0. |
length_penalty | float | Штраф за длину. Чем меньше значение, тем более короткие ответы дает модель. Значение по умолчанию — 1.0. Допустимые значения — от 0 до 1. |
presence_penalty | float | Штраф за новые токены. Положительные значения увеличивают разнообразие. Значение по умолчанию — 0.0. Допустимые значения — от -2.0 до 2.0. |
repetition_penalty | float | Штраф за повторения. Чем выше значение, тем меньше повторений в ответах. Значение по умолчанию — 1.0. Допустимые значения — от 1.0 до 2.0. |
stop | string | Стоп-последовательности, разделенные запятыми. Например, "\n,###,Human:". |
- LLMSettings