Discordの検索とDiscoveriesのテストに最適なモデルとプロンプト

Discordの検索とDiscoveriesをテストするために、どのようなモデルやプロンプト(ペルソナ)が推奨されていますか?

このユースケースで、異なるモデル間のパフォーマンスを比較した人はいますか?

現在、私はそれらのミックス(Ollama、Gemini、Sonar、Deepseek V3/R1)をテストしています。それぞれに強みがあり、特定のタスクに使用するものを選択できるのは素晴らしいことです。

チームに敬意を表します。

そのようなインタラクティブなユースケースには低レイテンシが必要なため、Gemini Flashのようなモデルが最適です。

完全に理解できました、Falcoさん、ありがとうございます。このちょっとした(大きな)アドバイスを参考に、同様のツールにも応用してみます。