Изменить настройки модели
AI Playground позволяет задать основные параметры ответа для выбранной модели. Параметры влияют на креативность, длину и разнообразие ответов, а также на скорость их вывода.
В разделе Чаты с моделями выберите модель и нажмите
.Откроется окно с параметрами модели.
Укажите значения параметров модели.
Нажмите Сохранить.
Настройки применятся в последующих запросах к модели.
Параметры модели
- Temperature
- Top-p
- Max completion tokens
- N
- Frequency penalty
- Presense penalty
- Stream
Определяет степень оригинальности и импровизации в ответах модели. Чем выше температура, тем более случайными и менее консервативными будут ответы. Например, температура 0,8 делает ответы более креативными и случайными, чем 0,5.
Альтернатива temperature. При указании top-p модель рассматривает только наиболее вероятные токены, суммарная масса вероятности которых равна указанному пороговому значению. Например, при значении 0,1 учитываются только те токены, которые составляют первые 10% от массы вероятности.
Максимальное количество токенов, используемых моделью в ответе. Например, если установлено значение 0, количество токенов не ограничено.
Количество вариантов ответа для каждого запроса. Например, при значении 3 в ответе модели будет три варианта решения задания или ответа на вопрос.
Штраф за частоту. Ограничивает или поощряет повторение ответов в тексте. Положительные значения уменьшают повторения, отрицательны увеличивают их.
Штраф за присутствие. Применяется к ответам, которые ранее использовались в ответах модели. Положительные значения ограничивают использование повторяющихся ответов, а отрицательные значения поощряют их.
Передача ответа в режиме реального времени. Если опция включена, вы будете видеть ответ частями вместо ожидания полной формулировки.