Les modèles ayant atteint leur limite devraient apparaître dans une couleur estompée, et lors de la sélection, l'abonnement peut être mis à niveau

Comme vous le savez, lorsque nous imposons une limite à un modèle, un utilisateur peut toujours lui poser des questions même après avoir épuisé sa limite, pour ensuite recevoir un message indiquant que sa limite a été atteinte. C’est démoralisant et une perte de temps.

Ma suggestion est la suivante : les modèles peuvent continuer à être listés, mais si la limite de l’utilisateur a été atteinte, ce modèle particulier pourrait apparaître dans une couleur estompée. Lorsque l’utilisateur le sélectionne, une fenêtre modale pourrait automatiquement lui demander de mettre à niveau son abonnement. C’est essentiellement ainsi que le modèle d’utilisation devrait fonctionner. Quelqu’un qui a atteint sa limite pourrait l’augmenter tout en posant sa question, ou même avant, et sa question pourrait ensuite être traitée. Ce serait rapide et pratique.

De plus, si nous pouvions également mettre cela en œuvre, je pense que ce serait encore mieux : les limites restantes de l’utilisateur devraient être visibles à côté des noms des modèles. (Wow, ce serait incroyablement utile !)

Quelles sont vos réflexions à ce sujet ?

4 « J'aime »

Mes réflexions générales sont que nous souhaitons évoluer lentement vers la suppression de cette matrice de décision pour la plupart des utilisateurs - dans un monde idéal, ils devraient pouvoir simplement parler à un robot et le moteur sous-jacent devrait déterminer quel est le meilleur LLM pour traiter la requête.

Cela ajoute une certaine surcharge mais élimine également une certaine paralysie décisionnelle que les utilisateurs non avancés rencontrent.

Que signifie « mettre à niveau l’abonnement » dans ce contexte, mettre à niveau l’abonnement à l’instance Discourse afin d’obtenir des limites plus élevées, inciter l’administrateur à reconfigurer le LLM ?

Il y a un nombre assez important d’hypothèses intégrées ici.

3 « J'aime »