Welche Einstellungen empfiehlst du anzupassen oder zu erhöhen, um die Antwortzeit zu reduzieren? Ich gehe davon aus, dass wir hier nur über eine einzelne Konversation sprechen, nicht über Dutzende gleichzeitige. Abgesehen vom Kürzen des Prompts/RAG scheint Thinking Effort die einzige Einstellung zu sein, die das Timing einer einzelnen Konversation wirklich beeinflusst.
Zum Hintergrund: Ich habe einen Agenten, der mit GPT Sol 6.1 ausgestattet ist und mit unserer Produktdokumentation, Artikeln aus der Knowledge Base sowie einigen „Fallen“-Fragen und -Antworten geladen ist.
Ich habe gerade erst eine Subagenten-Einstellung bemerkt. Ich frage mich, ob ich diese nutzen kann, um einige Produktversionen/Komponenten aufzuteilen und das RAG zu optimieren?