Discourse Chatbot 🤖

Чат-бот 1.3 выпущен :tada:

  • ФУНКЦИЯ: добавлена возможность управления квотами по токенам
    • новое значение chatbot_quota_basis позволяет включить эту опцию; в противном случае учёт ведётся по количеству запросов
    • единственное отличие по умолчанию: квота теперь уменьшается от начального максимального значения (которое по-прежнему определяется теми же настройками уровня доверия).
  • ФУНКЦИЯ: включение стоимости вызовов API, таких как DALL-E, в учёт потребления пользователем
    • только при учёте по токенам
    • множество новых настроек для тонкой настройки стоимости токенов при использовании функций API
  • ФУНКЦИЯ: добавлена возможность для пользователя проверить оставшуюся квоту

Чат-бот всегда поддерживал возможность установления квоты на использование.

Сегодня эта функция становится ещё более продвинутой!

Теперь чат-бот может отслеживать и ограничивать использование по токенам.

Вы можете назначать стоимость вызовам API, чтобы предотвратить их чрезмерное использование, что позволит вам с меньшим беспокойством предоставлять доступ к таким функциям, как генерация изображений.

Учёт по токенам является опциональным. Если вы переключитесь на учёт по токенам, обязательно увеличьте квоты для каждого уровня доверия, поскольку значения должны быть на несколько порядков выше. Проведите эксперименты.

Однако учёт по количеству запросов также немного изменился. Теперь квота будет сбрасываться до максимально разрешённого числа запросов и уменьшаться до нуля.

Рекомендуется запустить задачу глобального сброса квот один раз в качестве разовой операции, чтобы все пользователи начали с полной квотой. Это действие нужно выполнить только один раз!

В Sidekiq по адресу /sidekiq/scheduler:

Нажмите кнопку Trigger.

В любом случае пользователи теперь могут спрашивать, сколько квоты у них осталось:

Примечание: известная проблема: если этот вопрос задаётся впервые до выполнения задачи сброса, ответ может показаться странным! Однако независимо от выполнения задачи сброса, при повторном задании этого вопроса всё должно работать корректно.

4 лайка