Modelos que atingiram o limite devem aparecer em cor desbotada, e ao serem selecionados, a assinatura pode ser atualizada

Como você sabe, quando impomos um limite a um modelo, um usuário ainda pode fazer perguntas a ele mesmo depois de esgotar o limite, apenas para receber uma mensagem indicando que seu limite foi atingido. Isso é desmoralizante e uma perda de tempo.

Minha sugestão é a seguinte: os modelos podem continuar listados, mas se o limite do usuário foi atingido, aquele modelo específico poderia aparecer em uma cor desbotada. Quando o usuário o selecionasse, uma janela modal poderia automaticamente solicitar que ele atualizasse sua assinatura. É essencialmente assim que o modelo de uso deve funcionar. Alguém que atingiu seu limite poderia aumentá-lo enquanto faz sua pergunta, ou mesmo antes, e então sua pergunta poderia ser processada. Isso seria rápido e conveniente.

Além disso, se pudéssemos implementar isso também, acredito que seria ainda melhor: os limites restantes do usuário deveriam ser visíveis ao lado dos nomes dos modelos. (Uau, isso seria incrivelmente útil!)

Quais são seus pensamentos sobre este assunto?

4 curtidas

Minhas opiniões gerais são que queremos migrar lentamente para a remoção desta matriz de decisão da maioria dos usuários - em um mundo ideal, eles deveriam ser capazes de apenas conversar com um robô e o motor subjacente deveria descobrir qual é o melhor LLM para atender à solicitação.

Isso adiciona alguma sobrecarga, mas também elimina alguma paralisia de decisão que usuários não avançados têm.

O que significa “atualizar assinatura” neste contexto, atualizar a assinatura da instância do Discourse para obter limites mais altos, pressionar o administrador a reconfigurar o LLM?

Há uma boa quantidade de suposições incorporadas aqui.

3 curtidas