Discourse AI を有効化した場合の関連コンテンツと検索にかかる費用の見積もり

[NateDhaliwal]

@SubStrider

セルフホスト型LLMの場合、どのようなサーバー構成/コストが必要になりますか？

セルフホストする場合、GPUが必要だと思います、GPUがあった方が良いと思います。Ollamaのようなものをチェックしてみてください。

こちらも参照してください:

Estimating costs of using LLMs for Discourse AI

In order to use certain Discourse AI features, users are required to use a Large Language Model (LLM) provider. Please see each AI feature to determine which LLMs are compatible. If cost is a significant worry, one way to combat that is to set usage limits right from the vendor and use a monthly budget. Another option is to only let select users and groups access the AI features There are several variable factors to consider when calculating the costs of using…