Вопрос по настройке: ИИ-суммаризация в Discourse и интеграция LLM

Здравствуйте, команда поддержки Discourse,

У меня есть несколько вопросов по использованию функции суммирования на основе ИИ в Discourse, и я был бы признателен за вашу помощь в настройке этого процесса:

  1. Инициализация суммирования на основе ИИ:

    • Какие шаги необходимо выполнить для активации и настройки суммирования на основе ИИ в Discourse?

    • Требуются ли какие-либо плагины для начала работы с суммированием на основе ИИ? Если да, то какие именно и где их можно найти?

  2. Использование нашей собственной LLM (из Dify):

    • Возможно ли интегрировать нашу собственную LLM, созданную через приложение Dify, для задач суммирования в Discourse? Если да, то как это сделать с помощью API?

    • Можете ли вы предоставить документацию по API или руководства по интеграции для подключения сторонних LLM к Discourse?

  3. Стоимость моделей ИИ в Discourse:

    • Доступные модели LLM: Какие существуют модели суммирования на основе ИИ в Discourse и как выбрать между ними?

    • Бесплатные и платные модели: Являются ли какие-либо из моделей LLM бесплатными для использования или за все из них взимается плата?

    • Ограничения использования: Существуют ли какие-либо ограничения на использование бесплатных моделей, такие как лимиты ежедневных запросов или ограничения по токенам?

    • Метрики стоимости: Какова структура ценообразования для каждой модели, включая стоимость за запрос или за токен? Если существуют несколько ценовых уровней, можете ли вы предоставить подробную разбивку для каждой модели?

  4. Дополнительная информация:

    • Сообщите, пожалуйста, если есть какие-либо дополнительные соображения или шаги, которые мне необходимо предпринять для полного использования функций суммирования на основе ИИ в Discourse.

Заранее благодарю за помощь!

Привет @S.AAKASH_MUTHIAH, на большинство ваших вопросов можно найти ответы в документации по плагину ИИ здесь.


Смотрите:

И:


Да, плагин ai. Он включён в основную сборку, если вы используете актуальную версию. Просто перейдите в /admin/plugins, чтобы включить и настроить его.



Большинство из них платные, но вы можете ознакомиться с OpenRouter, который также предлагает некоторые бесплатные модели.


Насколько мне известно, это зависит от вашего провайдера, но, поправьте меня, если я ошибаюсь (CMIIW), вы также можете установить ограничения в самом Discourse.

Возможно, стоит посмотреть:


Это зависит от вашего провайдера ИИ-моделей LLM; условия у них разные.


Всю документацию по плагину ИИ можно найти здесь.

Что касается настроек, доступных в плагине, ознакомьтесь с этим руководством.


Надеюсь, это поможет!

Здравствуйте!
Большое спасибо за ваш быстрый и полезный ответ!

Я проверил параметры плагина на своём экземпляре Discourse, но не нашёл там ничего, связанного с ИИ. Я прикрепил изображение, показывающее доступные параметры плагина на моей стороне — не могли бы вы взглянуть и сообщить, не упустил ли я что-то?

Вы используете последнюю версию, прошедшую тестирование?

Моя текущая версия

Попробуйте обновить ваш форум и посмотрите, поможет ли это. Судя по вашей версии, плагин ИИ еще не был включен в ядро.

Спасибо, теперь всё работает.

У меня есть вопрос. Я создал рабочий процесс в DIFY и теперь хочу использовать его API для интеграции своей собственной LLM. Подскажите, пожалуйста, в каком формате следует отправлять входные данные?
Где нужно добавить API?
И какую опцию нужно выбрать, чтобы настроить свою собственную?

Я нашел одну вещь: это страница, где мне нужно настроить параметры?


Если да, какой вариант мне нужно выбрать из этого выпадающего списка?

Если на странице LLM вы выберете «Ручная настройка» и введёте свои ключи, будет ли это работать?

Я давно не использовал плагин AI, поэтому мои воспоминания о нём немного смутны.

Я хотел бы понять, какой тип данных будет отправляться в конечную точку API из Discourse.

@S.AAKASH_MUTHIAH, как продвигается настройка ИИ на вашем сайте? Я планирую закрыть эту тему — вы всегда можете создать новую, когда у вас появятся новые вопросы.

Как отметил @NateDhaliwal, ответы на многие ваши вопросы уже есть в документации. Пожалуйста, обращайтесь к ней перед тем, как задавать вопросы.