大家好，本人安裝了Discourse AI插件但未能設定和使用！本人閱讀了好幾次英文版Discourse AI 說明書但也未能掌握其設定。因本人是self-hosting ，哪我是不是需要自行用docker 架設AI ! 例如：toxicity 謝謝

Can you explain what you tried and what you are trying to achieve? (please reply in English - even if you use Google to translate)

Have you also followed the necessary steps in Discourse AI - Self-Hosted Guide ?

正是如此，Module Providers里提到的所有Processor为Discourse的功能都需要自己用docker架设AI That’s right. All the functions of Processor: Discourse mentioned in Module Providers require you to use docker to set up AI. [画像] Discourse AI Modules Providers As we said above, we are committed to offer new AI features without…

docker run -d --rm --gpus all --shm-size 1g -p 8080:80 -v /mnt:/data -e GPTQ_BITS=4 -e GPTQ_GROUPSIZE=32 -e REVISION=gptq-4bit-32g-actorder_True ghcr.io/huggingface/text-generation-inference:latest --model-id TheBloke/Upstage-Llama-2-70B-instruct-v2-GPTQ --max-batch-prefill-tokens=12…

和你一样痛苦, 实在太难了, 完全搞不懂

Discourse AIについて

サポート

JammyDodger 2023 年 12 月 14 日午前 7:18 2

Discourse AI - Self-Hosted Guide にて、必要な手順も実行しましたか？

トピック		返信	表示
I want to install Discourse AI on Discourse Self-hosting ai	13	527	2024 年 6 月 18 日
Discourse AI - Self-Hosted Guide Self-Hosting ai	61	13318	2025 年 4 月 30 日
Self-Hosting an OpenSource LLM for DiscourseAI Self-Hosting ai	7	3573	2026 年 1 月 20 日
Introducing Discourse AI Blog	26	3817	2023 年 5 月 4 日
Discourse AI plugin with self hosted discourse site Support ai	2	292	2024 年 7 月 9 日

Discourse AIについて

関連トピック