Los modelos que han alcanzado su límite deben aparecer en un color desvanecido, y al seleccionarlos, la suscripción se puede mejorar

Como saben, cuando imponemos un límite a un modelo, un usuario aún puede hacerle preguntas incluso después de agotar el límite, solo para recibir un mensaje que indica que se ha alcanzado su límite. Esto es desmoralizante y una pérdida de tiempo.

Mi sugerencia es esta: los modelos pueden seguir apareciendo en la lista, pero si se ha alcanzado el límite del usuario, ese modelo en particular podría aparecer en un color desvanecido. Cuando el usuario lo seleccione, una ventana modal podría solicitarle automáticamente que actualice su suscripción. Así es esencialmente como debería funcionar el modelo de uso. Alguien que haya alcanzado su límite podría aumentarlo mientras hace su pregunta, o incluso antes, y luego su pregunta podría procesarse. Esto sería rápido y conveniente.

Además, si también pudiéramos implementar esto, creo que sería aún mejor: los límites restantes del usuario deberían ser visibles junto a los nombres de los modelos. (¡Vaya, esto sería increíblemente útil!)

¿Qué opinan sobre este asunto?

4 Me gusta

Mis pensamientos generales son que queremos avanzar lentamente hacia la eliminación de esta matriz de decisión para la mayoría de los usuarios; en un mundo ideal, deberían poder simplemente hablar con un robot y el motor subyacente debería determinar cuál es el mejor llm para atender la solicitud.

Añade algo de sobrecarga, pero también elimina algo de parálisis de decisión que tienen los usuarios no avanzados.

¿Qué significa “actualizar suscripción” en este contexto, actualizar la suscripción a la instancia de Discourse para obtener límites más altos, o instar al administrador a reconfigurar el llm?

Hay una buena cantidad de suposiciones incorporadas aquí.

3 Me gusta