I modelli che hanno raggiunto il limite dovrebbero apparire in un colore sbiadito e, se selezionati, l'abbonamento può essere aggiornato

Come sapete, quando imponiamo un limite a un modello, un utente può comunque porre domande anche dopo aver esaurito il limite, per poi ricevere solo un messaggio che indica che il suo limite è stato raggiunto. Questo è demoralizzante e una perdita di tempo.

Il mio suggerimento è questo: i modelli possono continuare ad essere elencati, ma se il limite dell’utente è stato raggiunto, quel particolare modello potrebbe apparire in un colore sbiadito. Quando l’utente lo seleziona, una finestra modale potrebbe automaticamente invitarlo ad aggiornare il proprio abbonamento. Questo è essenzialmente il modo in cui dovrebbe funzionare il modello di utilizzo. Qualcuno che ha raggiunto il proprio limite potrebbe aumentarlo mentre pone la domanda, o anche prima, e poi la sua domanda potrebbe essere elaborata. Questo sarebbe rapido e conveniente.

Inoltre, se potessimo implementare anche questo, credo che sarebbe ancora meglio: i limiti rimanenti dell’utente dovrebbero essere visibili accanto ai nomi dei modelli. (Wow, questo sarebbe incredibilmente utile!)

Quali sono i vostri pensieri su questo argomento?

4 Mi Piace

I miei pensieri generali sono che vogliamo muoverci lentamente verso la rimozione di questa matrice decisionale dalla maggior parte degli utenti: in un mondo ideale, dovrebbero essere in grado di parlare semplicemente con un robot e il motore sottostante dovrebbe capire quale sia il miglior llm per servire la richiesta.

Aggiunge un po’ di sovraccarico ma elimina anche una certa paralisi decisionale che gli utenti non esperti hanno.

Cosa significa “aggiorna abbonamento” in questo contesto, aggiorna l’abbonamento all’istanza di Discourse in modo da ottenere limiti più elevati, spingi l’amministratore a riconfigurare l’llm?

Ci sono molte supposizioni incorporate qui.

3 Mi Piace