tpetrov
(Toni Petrov)
Setembro 12, 2024, 10:53am
1
Quando defino Max Context Posts
para um número, quando esse número de posts é atingido em uma conversa de PM, o bot simplesmente para de responder.
Essa é a intenção dessa configuração? Se sim, não deveria alertar o usuário que um limite foi atingido em vez de simplesmente parar de responder?
Jagster
(Jakke Lehtonen)
Setembro 12, 2024, 11:03am
2
Não funciona dessa maneira. Ele “lembra” muitas respostas e usa isso para manter o contexto e como base para novas respostas.
Provavelmente você está usando muitos tokens ou algo similar e ele simplesmente para de atender sua solicitação.
Acho que o log de erros deveria mostrar algo.
2 curtidas
tpetrov
(Toni Petrov)
Setembro 13, 2024, 11:16am
3
Sim, era o que eu pensava pela descrição.
Mas até ontem, ele simplesmente travava se eu atingisse o número de posts.
Hoje, quando tentei, funcionou como esperado - não travou e apenas manteve o número especificado de posts. Então isso parece ter sido corrigido
1 curtida
sam
(Sam Saffron)
Setembro 13, 2024, 11:21pm
4
Problema estranho, mas sim, ele apenas define o tamanho do contexto.
Será que há algum bug aqui durante as atualizações.
Também quero adicionar uma estratégia de “resumir”, que permitirá contextos enormes com pequenas contagens de tokens. (para cada N tokens, resumir os tokens para informações chave importantes)
sam
(Sam Saffron)
Fechado
Setembro 15, 2024, 10:00pm
5
Este tópico foi automaticamente fechado após 46 horas. Novas respostas não são mais permitidas.