DiscourseAIのためのオープンソースLLMのセルフホスティング

:sweat_smile:

選択するモデルに最も近いものになります。Gemmaの場合、Geminiのトークナイザーを選択できます。

ここでは、デプロイの最大コンテキストを設定します。

やめてください。そのモデルは非常に非常に非常に非常に非常に古いです。最悪の選択です。

そのモデルは1世代遅れており、Discourseと互換性のない非常に厳格なプロンプト要件があります。より標準的な汎用LLMを期待しています。

そのサイズの場合、Qwen 3.5またはGemma 4のいずれかを推奨します。

「いいね!」 3