独立したAIトリアージスクリプト(例:スパムチェック、タグ決定)を使用してAI搭載の自動化を構築しています。これらは現在並行して実行されており、非効率的です。例えば、スパムスクリプトがコンテンツをフラグ付けしなかった場合にのみタグスクリプトを実行するように、それらを「連鎖」させる必要があります。
より論理的なワークフローのために、これらのスクリプトをどのように管理およびオーケストレーションできますか?具体的には、これらのスクリプトを条件付きで連鎖させるにはどうすればよいですか?
独立したAIトリアージスクリプト(例:スパムチェック、タグ決定)を使用してAI搭載の自動化を構築しています。これらは現在並行して実行されており、非効率的です。例えば、スパムスクリプトがコンテンツをフラグ付けしなかった場合にのみタグスクリプトを実行するように、それらを「連鎖」させる必要があります。
より論理的なワークフローのために、これらのスクリプトをどのように管理およびオーケストレーションできますか?具体的には、これらのスクリプトを条件付きで連鎖させるにはどうすればよいですか?
求めている完全なフローを説明していただけますか?これは別のサーバーで実行するものでしょうか、それとも Discourse 内で実行したいものでしょうか?
AI ワークフローは、私たちが多く考えていることです。ワークフローにおけるチェーンを定義する機能は重要です。その点については完全に同意します。
私の見るところ、AIトリアージと自動化を備えたDiscourseで、ほとんどのユースケースが実現可能です。もしそれらがトリガーできれば、次のステップに進めます。
以下は、各ステップで投稿内容とプロンプトをLLMに送信する、仮説的なフローです。
これは素晴らしい、非常に興味深いユースケースです。
カスタムツールはすでにスクリプティングのサポートがあるため、このような変更には最適な手段となります。
Persona + 強制的なツール使用を考えています。ツールから、すでにすべてのインフラストラクチャを持っているため、フローを実行できます。カスタムツールに他のLLM呼び出しをトリガーする機能を与えるだけでよく、これは追加するのが比較的簡単です。
興味深いことに、カスタムツールはREST呼び出しをサポートしているため、フロー全体を実行できます(そして、これを連携させるためにディスコースREST APIを使用するだけです)。
週末にかけてこの件について考えて、来週、どのように実現できるかについて再度返信します。
オートメーションの連鎖も非常に興味深いアプローチです。@j.jaffeux、この問題について考えたことはありますか?
こんにちは @Cloud_spanner さん。この問題を根本から理解しようとしており、実際のフローをもう少し詳しく説明したいのですが、途中でいくつか質問に答えていただけますでしょうか? 5.
どの投稿をスキャンすべきですか?
意図
意図が手動で設定できる場合、手動でタグ付けされたものも「ホットボタン」のためにスキャンすべきですか?
hot は不可視タグですか、それとも可視タグですか?特に、ここで考えているのは次の点です。
すべての新しいトピックは、AIトリアージワークフローを開始する必要があります。編集は無視できます。
明確にするために、ワークフローを説明するためにインテントを使用していますが、これはハードコーディングされたフローとは見なされるべきではありません。私が伝えたいのは、最初のトリアージワークフローで不要と判断された場合に「インテント」ワークフローを開始する理由がないということです。IFTTTワークフローの概念に賛成です。
インテントと「ホット」は、この例ではモデレーターと管理者にのみ表示される不可視のタグになります。
投稿ごとに1つのインテントタグが必要です。
はい。
フローがそのトピックで実行されたことを示すプライベートタグを使用するのはどうでしょうか?そして、将来の実行では無視できます。
もう1つの考えは、LLMの「推論」能力と大きなコンテキストウィンドウが増加したことで、Discourse Automationウィンドウで構造化出力を許可する方が良いのではないかということです。IFTTTロジックは、複数のオートメーションを連鎖させるのではなく、単一のオートメーションに適用されるだけになります。「検索テキスト」アクションが多数ある1つのオートメーションを持つ機能があればどうなるでしょうか。
現在のシステム内でこれをどのように解決できるか考えていましたが、新しい自動化タイプを許可するという非常に魅力的な選択肢があります。
triage_using_custom_tool
すでにカスタムツールシステムがあります。
次に、llm.generate や topic.close、topic.tag などの追加機能を許可できます。これらは、ツールがこれらのワークフローを実行するために使用できます。
これのもう1つの利点は、テストできるため、調整が容易になることです。
それは素晴らしいアイデアのようです。私はまだDiscourseエコシステムに新しいので、カスタムツールについて調べたり、機能リクエストがどのようにして本番環境に入るのかも調べてみます。
良いニュースがあります。カスタムツールを使用すると、ワークフローがすべて機能するようになりました。
アイデアは、すべてのパラメータを持つ単一のカスタムツールを定義することです。
is_spam、intent、hot、requires_invite
次に、「triage using persona」をクリックしてツールを呼び出すと、ツールがすべての操作を実行します(現在は Discourse API を介して行われますが、今後さらに多くの組み込み機能を利用できるようにします)。
これらのすべてをどのように連携できるかについての良い入門書は次のとおりです。