Discourse AI と retrieval augmented generation

[tentacleskilt (Tentiak)]

@aas

Discourse AI は素晴らしいですね。セルフホストインスタンスに設定するのが待ちきれません！

ヘルパーボットと埋め込みに関する質問（または機能リクエスト）があります。**取得拡張生成（RAG）に使用するトピックを選択できますか？**たとえば、公式ドキュメントカテゴリのトピックに対してのみ埋め込みを計算するようにプラグインを構成できると素晴らしいでしょう。ボットがフォーラムのすべての情報を使用してベクトルデータベースを構築すると、出力が十分に良くならないのではないかと心配しています。特定のタグが付いたトピックや解決済みのトピックのみを対象に埋め込みを計算するように構成することも興味深いです。RAGワークフローに関する詳細についてお伺いしたいです。Discourse AI には RAG ワークフローがありますか？ベクトルデータベースに追加するドキュメントを制御する機能はありますか？すでに埋め込みのコレクションがある場合、ヘルパーやセマンティック検索を呼び出す際に Discourse AI にそれらを使用するように構成できますか？

これはここで簡単に言及されていましたが、詳細を知りたいです！

Discourse UI を外部 LLM のフロントエンドとして使用する以外に、このペルソナは何を Discourse 統合の上に構築していますか？ほとんどのペルソナでは RAG を検討しており、既製の LLM では提供できないものを構築できます。

私の知る限り、Discourse AI プラグインはフォーラムのすべての投稿を使用してベクトルデータベースを構築しますが、このアプローチは、ユーザーが含めるドキュメントを指定できるように洗練される予定です。これにより、トレーニングデータに対するより詳細な制御が可能になり、生成される応答の品質が向上します。

さらに、事前計算された埋め込みを組み込む機能はまだ検討中です…