応答時間を短縮するために、調整または増加すべき設定はありますか?数十件の会話が同時に進行しているのではなく、単一の会話についてのみ話しているものと仮定してください。 プロンプトやRAGを削減すること以外では、個々の会話のタイミングに実際に影響を与える設定は Thinking Effort(思考負荷)だけのように見えます。
背景として、私はGPT Sol 6.1を搭載し、弊社の製品ドキュメント、ナレッジベース記事、および一部の「落とし穴」に関する質問と回答を読み込ませたエージェントを持っています。
ちょうどサブエージェントの設定に気づきました。これを使用して、一部の製品バージョンやコンポーネントを分割し、RAGを合理化できるかどうか気になっています。