AI LLM endpoint params AWS

The type of the AI LLM endpoint params object for AWS. This parameter is required.

What sampling temperature to use, between 0 and 1. Higher values like 0.8 will make the output more random, while lower values like 0.2 will make it more focused and deterministic. We generally recommend altering this or top_p but not both.

temperatureによるサンプリングの代替手段 (核サンプリングと呼ばれます)。この場合、モデルはtop_pの確率質量を持つトークンの結果を考慮します。つまり、0.1の場合は、上位10%の確率質量で構成されるトークンのみが考慮されます。一般的には、この値とtemperatureの両方ではなく、いずれかを変更することをお勧めします。