Box Developerドキュメント
ログイン

AI LLMエンドポイントパラメータ (OpenAI)

AI LLMエンドポイントパラメータ (OpenAI) オブジェクト。

string
openai_params

OpenAI用のAI LLMエンドポイントパラメータオブジェクトのタイプ。このパラメータは必須です。

次の値に固定: openai_params

number
1.5
-2
2

-2.0から2.0までの数値。正の値の場合は、新しいトークンがこれまでにテキストに出現した回数に基づいてそのトークンにペナルティを与え、モデルが同じ行をそのまま繰り返す可能性を低減させます。

number
1.5
-2
2

-2.0から2.0までの数値。正の値の場合は、新しいトークンがこれまでにテキストに出現したかどうかに基づいてそのトークンにペナルティを与え、モデルが新しいトピックについて語る可能性を引き上げます。

string
<|im_end|>

APIがトークンをそれ以上生成するのを停止する、最大4つのシーケンス。

number
0
0
2

使用するサンプリングtemperature (0～2の間)。0.8のような高い値を指定すると、出力がよりランダムになるのに対し、0.2のような低い値を指定すると、出力はより焦点を絞った、決定的なものになります。一般的には、この値とtop_pの両方ではなく、いずれかを変更することをお勧めします。

number
1
0.1
1

temperatureによるサンプリングの代替手段 (核サンプリングと呼ばれます)。この場合、モデルはtop_pの確率質量を持つトークンの結果を考慮します。つまり、0.1の場合は、上位10%の確率質量で構成されるトークンのみが考慮されます。一般的には、この値とtemperatureの両方ではなく、いずれかを変更することをお勧めします。

レスポンスの例

{
  "type": "openai_params",
  "frequency_penalty": 1.5,
  "presence_penalty": 1.5,
  "stop": "<|im_end|>",
  "temperature": 0,
  "top_p": 1
}