Discourse AIが暴走する

私は現在の Discourse AI のすべての設定について専門家ではないため、これが私の理解の限界です。

私のサイトでもあなたのサイトでも、設定には以下のように表示されています:

デフォルトの LLM モデル: CDCK Hosted LLM

調べた限りでは、これは Discourse がホストする LLM サービスです。より正確に言うと、現在の CDCK/MoM 実装は、固定された単一のモデルではなく、Mixture of Models(モデルの組み合わせ)によるルーティング層です。タスクに応じて、異なるオープンウェイトのモデルにリクエストをルーティングできます。Discourse には、これに関する有用な説明がここにあります:

もう一つの確認に役立つ場所は以下です:

/admin/plugins/discourse-ai/ai-llms

ここは Discourse AI の LLM 設定ページで、管理者は設定された LLM 接続や、Discourse AI の機能で利用可能なモデルを確認できます。

例えば、私が管理者を務めているサイトでは以下のように表示されます:

これにより、あなたが使用したアクションがそのモデルによって裏付けられているかどうかを示すことができます。

これは、私がモデルと設定について質問した点に対する答えになるようです。