BoxWorks 2024でコンテンツとAIの可能性について紹介します。
詳細を表示抽出 (構造化) リクエスト用のAIエージェント
抽出 (構造化) に使用されるAIエージェント。
ai_agent_extract_structured抽出に使用されるAIエージェントのタイプ。
次の値に固定: ai_agent_extract_structured
基本テキストの処理に使用されるAIエージェントツール。
OpenAI/Googleモデルに固有のLLMエンドポイントのパラメータ。
azure__openai__gpt_3_5_turbo_16k基本テキストに対するAIエージェントで使用されるモデル。特定のモデル値については、利用可能なモデルのリストを参照してください。
84001完了に必要なトークンの数。
(\{user_question\}[\s\S]*?\{content\}|\{content\}[\s\S]*?\{user_question\})It is `{current_date}`, consider these travel options `{content}` and answer the `{user_question}`.10000プロンプトテンプレートには、リクエストのコンテキスト情報とユーザープロンプトが含まれます。prompt_templateパラメータを渡す場合、{user_question}および{content}の入力を含める必要があります。{current_date}は、用途に応じて省略できます。
You are a helpful travel assistant specialized in budget travelLLMが、その役割と実行するべき内容を「理解」するのを支援するためのシステムメッセージ。
長いテキストの処理に使用されるAIエージェントツール。
openai__text_embedding_ada_002埋め込みを計算するためのAIエージェントに使用されるモデル。
basic埋め込みを計算するためのAIエージェントに使用される戦略。
641チャンクごとのトークンの数。
OpenAI/Googleモデルに固有のLLMエンドポイントのパラメータ。
azure__openai__gpt_3_5_turbo_16k基本テキストに対するAIエージェントで使用されるモデル。特定のモデル値については、利用可能なモデルのリストを参照してください。
84001完了に必要なトークンの数。
(\{user_question\}[\s\S]*?\{content\}|\{content\}[\s\S]*?\{user_question\})It is `{current_date}`, consider these travel options `{content}` and answer the `{user_question}`.10000プロンプトテンプレートには、リクエストのコンテキスト情報とユーザープロンプトが含まれます。prompt_templateパラメータを渡す場合、{user_question}および{content}の入力を含める必要があります。{current_date}は、用途に応じて省略できます。
You are a helpful travel assistant specialized in budget travelLLMが、その役割と実行するべき内容を「理解」するのを支援するためのシステムメッセージ。
レスポンスの例
{
"type": "ai_agent_extract_structured",
"basic_text": {
"llm_endpoint_params": {
"type": "openai_params",
"frequency_penalty": 1.5,
"presence_penalty": 1.5,
"stop": "<|im_end|>",
"temperature": 0,
"top_p": 1
},
"model": "azure__openai__gpt_3_5_turbo_16k",
"num_tokens_for_completion": 8400,
"prompt_template": "It is `{current_date}`, consider these travel options `{content}` and answer the `{user_question}`.",
"system_message": "You are a helpful travel assistant specialized in budget travel"
},
"long_text": {
"embeddings": {
"model": "openai__text_embedding_ada_002",
"strategy": {
"id": "basic",
"num_tokens_per_chunk": 64
}
},
"llm_endpoint_params": {
"type": "openai_params",
"frequency_penalty": 1.5,
"presence_penalty": 1.5,
"stop": "<|im_end|>",
"temperature": 0,
"top_p": 1
},
"model": "azure__openai__gpt_3_5_turbo_16k",
"num_tokens_for_completion": 8400,
"prompt_template": "It is `{current_date}`, consider these travel options `{content}` and answer the `{user_question}`.",
"system_message": "You are a helpful travel assistant specialized in budget travel"
}
}