AI LLMエンドポイントパラメータ (Google) オブジェクト。
google_paramsGoogle用のAI LLMエンドポイ ントパラメータオブジェクトのタイプ。このパラメータは必須です。
次の値に固定: google_params
002temperatureはレスポンス生成時のサンプリングに使用されます。レスポンス生成はtop-Pとtop-Kが適用された場合に発生します。temperatureは、トークン選択におけるランダム性の程度を制御します。
10.12Top-Kでは、モデルが出力用にトークンを選択する方法を変更します。top-Kが小さい場合、次に選択されるトークンは、モデルの語彙に含まれるすべてのトークンの中で最も確率の高いものであることになります (グリーディデコードとも呼ばれます)。top-Kが大きい場合は、temperatureを使用して、最も確率が高い上位3つのトークンから次のトークンが選択されることになります。
10.12Top-Pでは、モデルが出力用にトークンを選択する方法を変更します。トークンは、確率の合計がtop-P値に等しくなるまで、確率の高いもの (top-Kを参照) から低いものへと選択されます。
{
"type": "google_params",
"temperature": 0,
"top_k": 1,
"top_p": 1
}