AI LLMエンドポイントパラメータ (Google)
AI LLMエンドポイントパラメータ (Google) オブジェクト。
string
google_paramsGoogle用のAI LLMエンドポイントパラメータオブジェクトのタイプ。このパラメータは必須です。
次の値に固定: google_params
number
002temperatureはレスポンス生成時のサンプリングに使用されます。レスポンス生成はtop-Pとtop-Kが適用された場合に発生します。temperatureは、トークン選択におけるランダム性の程度を制御します。
number
10.12Top-Kでは、モデルが出力用にトークンを選択する方法を変更します。top-Kが1の場合、次に選択されるトークンは、モデルの語彙に含まれるすべてのトークンの中で最も確率の高いものであることになります (グリーディデコードとも呼ばれます)。top-Kが3の場合は、temperatureを使用して、最も確率が高い上位3つのトークンから次のトークンが選択されることになります。
number
10.12Top-Pでは、モデルが出力用にトークンを選択する方法を変更します。トークンは、確率の合計がtop-P値に等しくなるまで、確率の高いもの (top-Kを参照) から低いものへと選択されます。
レスポンスの例
{
"type": "google_params",
"temperature": 0,
"top_k": 1,
"top_p": 1
}