Quais configurações você recomenda ajustar ou aumentar para reduzir o tempo de resposta? Presuma que estou falando apenas de uma única conversa, não de dezenas delas rodando ao mesmo tempo. Além de encurtar o prompt/RAG, parece que o Thinking Effort (Esforço de Pensamento) é a única configuração que realmente afeta o tempo de uma conversa individual.
Como contexto, tenho um agente equipado com o GPT Sol 6.1 e carregado com a documentação do nosso produto, artigos da base de conhecimento e algumas perguntas e respostas sobre “pegadinhas”.
Acabei de notar uma configuração de subagente. Me pergunto se posso usá-la para dividir algumas versões/componentes do produto e otimizar o RAG?