AI LLMエンドポイントパラメータ (OpenAI)

AI LLMエンドポイントパラメータ (OpenAI) オブジェクト。

type string

例openai_params

OpenAI用のAI LLMエンドポイントパラメータオブジェクトのタイプ。このパラメータは必須です。

次の値に固定: openai_params

frequency_penalty number

例1.5最小値-2最大値2

-2.0から2.0までの数値。正の値の場合は、新しいトークンがこれまでにテキストに出現した回数に基づいてそのトークンにペナルティを与え、モデルが同じ行をそのまま繰り返す可能性を低減させます。

presence_penalty number

例1.5最小値-2最大値2

-2.0から2.0までの数値。正の値の場合は、新しいトークンがこれまでにテキストに出現したかどうかに基づいてそのトークンにペナルティを与え、モデルが新しいトピックについて語る可能性を引き上げます。

stop string

例<|im_end|>

APIがトークンをそれ以上生成するのを停止する、最大4つのシーケンス。

temperature number

例0最小値0最大値2

使用するサンプリング温度 (0～2の間)。0.8のような高い値を指定すると、出力がよりランダムになるのに対し、0.2のような低い値を指定すると、出力はより焦点を絞った、決定的なものになります。一般的には、この値とtop_pの両方ではなく、いずれかを変更することをお勧めします。

top_p number

例1最小値0.1最大値1

温度によるサンプリングの代替手段 (核サンプリングと呼ばれます)。この場合、モデルはtop_pの確率質量を持つトークンの結果を考慮します。つまり、0.1の場合は、上位10%の確率質量で構成されるトークンのみが考慮されます。一般的には、この値と温度の両方ではなく、いずれかを変更することをお勧めします。

レスポンスの例

{
  "type": "openai_params",
  "frequency_penalty": 1.5,
  "presence_penalty": 1.5,
  "stop": "<|im_end|>",
  "temperature": 0,
  "top_p": 1
}