Discourse AI

Возможно, есть ли планы внедрить лимиты на основе групп? Например, чтобы «Группа A» могла отправлять боту ИИ до 100 сообщений или 10 000 токенов в день?

5 лайков

Согласны, мы очень хотели бы создать систему квот

4 лайка

Я только что обнаружил одну проблему. Мой бот не отвечал мне, поэтому я проверил логи и увидел, что температура выходила за допустимые пределы.

У моделей OpenAI диапазон температуры составляет 1–2, тогда как у моделей Anthropic — 0–1. Таким образом, если вы установите температуру, например, 1.2 в настройках персонажа, то при общении с ботом вы не сможете выбрать модель Anthropic в выпадающем списке LLM (и наоборот — для OpenAI).

Это может стать ограничением, так как вынуждает пользователей либо:

  1. Использовать ТОЛЬКО значения по умолчанию, если есть модели от компаний с разными диапазонами;
  2. Использовать ТОЛЬКО модели от одной компании, чтобы иметь возможность настроить температуру.

Я хотел предоставить пользователям выбор моделей, но в настоящее время не могу позволить им выбирать между моделями OpenAI и Anthropic, поскольку мне нужно установить температуру :pensive:

2 лайка

Возвращаясь к этому и просто высказывая идею…

Подписки Stripe с учетом фактического использования выглядит как то, что может хорошо сочетаться с этой идеей… Очень похоже на то, как работает Mailgun: «x» токенов разрешено в месяц. Дополнительное использование «y» токенов влечет за собой дополнительную плату «z» — или просто блокирует доступ пользователя к ИИ после исчерпания лимита в «x». Пользователь, конечно же, сможет отслеживать использование токенов в своем профиле.

6 лайков

2 сообщения были перемещены в новую тему: Помощь с установкой плагина ИИ на Discourse v3.4.0.beta1

Для сведения всем участникам

4 лайка

Всем привет!

Ищу настройки для AI-редактора в composer-редакторе, чтобы включить генерацию изображений. У меня OpenAI настроен и работает отлично, но я случайно включил эту опцию при первой установке и теперь не могу найти её снова. Настолько много настроек, что нужно время, чтобы во всём разобраться. Уже около двух недель работаю с этим и мне очень нравится!

3 лайка

Решено сам :slightly_smiling_face:. Мне нужно было пересобрать Discourse после настройки опций, и тогда в модальном окне AI появилась возможность выбрать «Иллюстрировать пост». Работает отлично!

6 лайков

Всем привет,

Сейчас я использую GPT-4o Mini с плагином Discourse AI и хочу узнать, может ли мой AI-бот читать и обрабатывать содержимое загруженных документов напрямую, как это делается в ChatGPT. Пока что я не нашёл способа включить эту функцию.

Если эта функция уже доступна, и я просто её пропустил, не могли бы вы подсказать, куда посмотреть? Или, если это пока невозможно, планируется ли это в будущем обновлении?

Мне бы очень хотелось, чтобы мой бот мог читать документы, загружаемые в композер, для более динамичных и интерактивных обсуждений. Любые советы или информация будут очень полезны!

Заранее спасибо!

1 лайк

Это должно быть возможно с помощью использования пользовательских ИИ-ботов — Персонажей. При создании персонажа в самом низу вы должны увидеть возможность загрузки документации, чтобы бот мог обращаться к ней при ответе на запросы.

2 лайка

@Saif спасибо за обратную связь. Я знаю об этой функции и уже использую её в рамках персонажа. Работает отлично! Я имею в виду возможность для пользователя, использующего чат-бота, загрузить документ и задать вопросы по нему. Мой чат-бот не может этого сделать. Если я сделаю скриншот с информацией и загрузлю его как изображение в чат-бот, он сможет прочитать и ответить на него без проблем. Однако, похоже, он не может прочитать ничего из документа?

2 лайка

А, понял, спасибо за уточнение. На данный момент мы не поддерживаем такой сценарий, так как наше основное внимание сосредоточено на настройке администраторами персонажа с использованием поддерживаемых документов.

Возможно, это стоит рассмотреть в будущем.

5 лайков

Спасибо, @Saif! И позвольте мне добавить: вы и вся ваша команда проделываете фантастическую работу. Работать с вашим продуктом — это очень приятный опыт!

4 лайка

Мне нравится идея позволить пользователям загружать огромные PDF и TXT файлы и задавать им вопросы напрямую в определённом стиле. Думаю, стоит оформить это как запрос на новую функцию.

У нас уже есть большая часть инфраструктуры для реализации этого.

13 лайков

Вы заставляете меня терять дар речи, @sam :sunglasses: Вы — лучшие.

6 лайков

Может ли ИИ-бот взаимодействовать в темах, если его упомянуть?

2 лайка

Да, если администратор разрешил это.

3 лайка

Вы угрожаете нам отличным временем, мой друг. Это, безусловно, вишенка на вкусном десерте, который команда уже преподнесла нам. Но в этом есть и поэзия: идея о том, что технология с открытым исходным кодом обеспечивает лёгкий доступ к умным чат-ботам для работы с документами, использующим (возможно) модели с открытым исходным кодом, просто прекрасна, и я как исследователь ИИ, поддерживающий open source, полностью её одобряю.

В противном случае людям приходится полагаться на запуск небольших моделей локально через Ollama или доверять полностью закрытым решениям, таким как ChatGPT. Я имею в виду, что, хотя Discourse и должен оставаться программным обеспечением для обсуждения в сообществе, у него есть потенциал принести огромную пользу многим людям, чем дальше команда будет двигаться в этом направлении.

Я лично работаю со многими людьми, которые не могут использовать какие-либо ИИ-инструменты (ChatGPT, Claude, Perplexity и т. д.) в своей работе из-за проблем с конфиденциальностью и других опасений. У них также нет и они не могут позволить себе нанять специалистов по ИИ для создания кастомного решения, да и сами они не являются техническими специалистами. Поэтому я вижу здесь огромный пробел на рынке для малого и среднего бизнеса/организаций, где Discourse AI станет идеальным решением. На самом деле, моя недавно основанная компания даже не существовала бы без Discourse AI.

Вы открыли здесь золотую жилу.

5 лайков

Можете уточнить, какое именно действие нужно активировать? Я знаю, что чат-бот Merefield можно вызвать для присоединения к публичным чатам, но насчёт бота с плагином AI я не уверен.

1 лайк

Чат-бот умеет автоматически отвечать на первый пост, но с DAI-редактированием требуется настройка AI-персоны и включение опции разрешить упоминания тем.

4 лайка