DiscourseAIのためのオープンソースLLMのセルフホスティング

ありがとうございます!AIプラグインが有効になっている時のみURLが動作するということにも気づきました :person_facepalming:

新しく追加したプロバイダーについて、以下の必須設定で何を設定すべきか、ご提案はありますか?

  1. トークナイザー
  2. コンテキストウィンドウ

モデルについては、stablelm2:1.6b または translategemma:4b を使うか検討していますが、まだ決まっていません。後者のREADMEには入力プロンプトに関する記述があります。翻訳AI機能がOllamaに送信するクエリが何なのか気になります。 /admin/plugins/discourse-ai/ai-agents/-28/edit を参照。