Модели, достигшие своего лимита, должны отображаться в приглушенном цвете, а при их выборе можно будет обновить подписку

Внести вклад Функция
,
1

Как вы знаете, когда мы устанавливаем ограничение для модели, пользователь всё ещё может задавать ей вопросы даже после исчерпания лимита, но получает сообщение о том, что лимит достигнут. Это демотивирует и приводит к пустой трате времени.

image
image1310×632 59.4 KB

Мое предложение следующее: модели могут продолжать отображаться в списке, но если лимит пользователя исчерпан, соответствующая модель должна быть показана в бледном цвете. При выборе такой модели должно автоматически открываться модальное окно с предложением обновить подписку. По сути, именно так и должен работать модель использования. Пользователь, достигший своего лимита, мог бы увеличить его прямо во время формулирования вопроса или даже до этого, после чего его вопрос был бы обработан. Это было бы быстро и удобно.

Более того, если бы мы также могли реализовать следующее, это было бы ещё лучше: оставшийся лимит пользователя должен отображаться рядом с названиями моделей. (Вау, это было бы невероятно полезно!)

Что вы думаете по этому поводу?

4 лайка
2

Моя общая точка зрения заключается в том, что мы хотим постепенно отказаться от использования этого матрицы принятия решений для большинства пользователей. В идеальном мире они должны иметь возможность просто общаться с роботом, а движок под капотом сам определит, какая LLM лучше всего подходит для обработки запроса.

Это, безусловно, добавляет некоторые накладные расходы, но также устраняет паралич принятия решений, с которым сталкиваются неопытные пользователи.

Что означает «обновить подписку» в данном контексте? Обновление подписки на экземпляр Discourse для получения более высоких лимитов или побуждение администратора к перенастройке LLM?

Здесь заложено довольно много предположений.

3 лайка