Posts de contexto do bot AI Max

Quando defino Max Context Posts


para um número, quando esse número de posts é atingido em uma conversa de PM, o bot simplesmente para de responder.

Essa é a intenção dessa configuração? Se sim, não deveria alertar o usuário que um limite foi atingido em vez de simplesmente parar de responder?

Não funciona dessa maneira. Ele “lembra” muitas respostas e usa isso para manter o contexto e como base para novas respostas.

Provavelmente você está usando muitos tokens ou algo similar e ele simplesmente para de atender sua solicitação.

Acho que o log de erros deveria mostrar algo.

2 curtidas

Sim, era o que eu pensava pela descrição.
Mas até ontem, ele simplesmente travava se eu atingisse o número de posts.

Hoje, quando tentei, funcionou como esperado - não travou e apenas manteve o número especificado de posts. Então isso parece ter sido corrigido :slight_smile:

1 curtida

Problema estranho, mas sim, ele apenas define o tamanho do contexto.

Será que há algum bug aqui durante as atualizações.

Também quero adicionar uma estratégia de “resumir”, que permitirá contextos enormes com pequenas contagens de tokens. (para cada N tokens, resumir os tokens para informações chave importantes)

Este tópico foi automaticamente fechado após 46 horas. Novas respostas não são mais permitidas.