ちなみに、既存の要約モデルはDiscourseには十分ではないと判断し、これにはLLMを使用することに切り替えました。十分なGPU VRAMを持つサーバーをお持ちの場合は、Llama2ベースのLLMを実行すると、#ai-summarization および ai-helper で素晴らしい結果が得られます。LLMの実行方法に関する基本的な手順をDiscourse AI - Self-Hosted Guideに更新しました。
「いいね！」 2