Discourse 翻訳

[NateDhaliwal]

このガイドを参照してください：

DiscourseAIのためのオープンソースLLMのセルフホスティング

Discourse AIプラグインには、要約、AIヘルパー、AI検索、AIボットなど、LLM（大規模言語モデル）を有効にする必要がある多くの機能があります。サードパーティのAPI（OpenAIのAPIキーを設定やAnthropicのAPIキーを設定など）を使用することもできますが、Discourse AIは初日からそれらに縛られないように構築されています。 HuggingFace TGI での実行 HuggingFaceは、すぐに利用を開始できる優れたコンテナイメージを提供しています。 例えば： mkdir -p /opt/tgi-cache docker run --rm --gpus all --shm-size 1g -p 8080:80 \ -v /opt/tgi-cache:/data \ ghcr.io/huggingface/text-generation-inference:latest \ --model-id mistralai/Mistral-7B-Instruct-v0.2 これにより、ローカルホストのポート8080でMistral 7B I…

@happyhappy

また、プライバシーの理由でAI翻訳を使いたくないユーザーも多数います。

では…なぜLLMをホストしたがるのですか？

その他の関連情報については、Using Discourse and LibreTranslate without AI を参照してください。