DiscourseAIのためのオープンソースLLMのセルフホスティング

[Falco]

@mononym

別の質問です。以前は、寛大に提供された LibreTranslate インスタンスを使って翻訳プラグインを利用していました。

それなら、そのまま使い続ければよいではありませんか。私たちはもうそれを更新していませんが、現状のまま引き続き動作し続けます。

@mononym

Discourse AI の翻訳機能を、その LibreTranslate エンドポイントに接続することは不可能でしょうか？最終的には、真の LLM 機能を持たないサーバーで Ollama インスタンスをホストするよりも、はるかに簡単になるはずです。

Discourse AI の翻訳は、元の翻訳プラグインとは全く異なる制約下で動作するため、ML 翻訳 API で以前可能だったものよりも、LLM ベースの翻訳がより高品質で低コストになる新しい世界に対応するために、私たちはゼロからこれを構築しました。