アイドル状態でGPUあたり月額最低5ドル程度の追加電気料金がかかりますが、実際にはLLMは他の目的で既に稼働させているため、ディスコースの増分コストはゼロです。
しかし、小規模なフォーラムや低負荷での利用であれば、LLMをサービスとして利用する方が経済的であることは確かです。ただし、Discourseのホスティングサービスのような規模になると、内部でホストする方が理にかなっている可能性があり（また、重要になる可能性のあるこの分野の知識を開発することもできます）。
「いいね！」 1