Discourse AI - 에이전트를 활용한 AI 트리아지

AI 트리아지는 AI 에이전트의 힘을 활용하여 주제에 지능적으로 응답합니다.

:information_source: 이 기능이 작동하려면 discourse-automationdiscourse-ai 플러그인 두 가지 모두 설치되어 있어야 합니다.

사용 사례

  1. 자동 지원: 사람들의 지원 질문에 지능적으로 응답을 생성합니다. 예를 들어, Support 카테고리에서 에이전트는 컨텍스트로 커뮤니티 콘텐츠를 사용할 수 있습니다. 보너스로, 위스퍼를 통해 답변을 생성하면 응답자가 실제 답변을 작성하기 전에 제안된 답변을 먼저 활용할 수 있습니다.

  2. 카테고리 전문가: 커뮤니티의 각 카테고리에 지정된 에이전트 전문가를 두세요. 주제의 첫 번째 게시물에 응답하고, 필요시 인간이 후속 조치를 취합니다.

  3. 세심한 모더레이션: 사용자가 커뮤니티에 적합한 콘텐츠를 올바른 위치에 게시하도록 유도합니다. 예를 들어, 특정 주제가 카테고리와 맞지 않는 것으로 판단되면, 해당 변경을 자동으로 수행하는 대신 다른 카테고리를 제안하는 답글을 작성하여 게시자에게 알립니다.

  4. 정체된 주제 후속 조치: stalled_topic 트리거를 사용하여 일정 기간 동안 답변이 없는 주제에 자동으로 응답하여 대화를 촉진합니다.

에이전트는 완전히 사용자 정의할 수 있으므로, 커뮤니티는 이 기능을 다양한 다른 방식으로 활용할 수 있습니다.

작동 방식

에이전트를 사용한 AI 트리아지는 에이전트를 통해 컨텍스트를 이해하고 지능적인 응답을 유도하여 주제와 게시물에 무조건적으로 응답할 수 있습니다.

이 기능을 설정하려면 관리자 → 플러그인 → 자동화 → 새 자동화로 이동하여 LLM Agent Triage 스크립트를 선택하세요. 이 기능을 사용하려면 먼저 에이전트를 생성해 두어야 합니다.

다음은 자동화 규칙과 관련 에이전트의 예시입니다.

트리거

이 자동화는 두 가지 트리거를 지원합니다:

  • 게시물 생성/수정: 새 게시물이 생성되거나 기존 게시물이 수정될 때 발생합니다.
  • 정체된 주제: 주제가 설정된 기간 동안 활동이 없을 때 발생합니다.

설정

이 기능을 구성하려면 특정 매개변수를 지정해야 합니다:

  • 에이전트: 트리아지에 사용할 AI 에이전트입니다. 기본 LLM과 사용자가 설정되어 있어야 합니다.

  • 위스퍼로 답글: 에이전트의 응답이 위스퍼로 표시될지 여부입니다.

  • 무음 모드: 선택 시 에이전트는 콘텐츠를 수신하지만 포럼에 아무것도 게시하지 않습니다. 이 옵션을 사용하기 전에 관리자가 사용자 정의 도구를 생성해야 합니다. 이는 에이전트 설정의 도구 필드와 함께 사용됩니다. 다음과 같은 용도로 유용할 수 있습니다:

    • 무언가 발생한 것을 알리기 위해 회사 내부 API로 HTTP 요청을 수행
    • 채팅 메시지를 생성하거나 게시물을 플래깅하는 등 Discourse에서 부수 효과를 수행

:information_source: 무음 모드위스퍼로 답글은 상호 배타적이며, 한 번에 하나만 활성화할 수 있습니다.

주의사항

  • LLM 호출은 비용이 많이 들 수 있습니다. 비용을 주의 깊게 모니터링하고 항상 작은 부분 집합으로 실행하는 것을 고려하세요.
  • LLM은 환각(hallucination)을 일으킬 수 있으므로 모든 출력을 신중하게 확인하세요.
  • 봇이 작성한 게시물은 자동으로 건너뛰어지며 에이전트를 트리거하지 않습니다.
  • 속도 제한이 적용됩니다: 기본적으로 전역적으로 분당 최대 60회의 트리아지 호출, 개별 게시물당 분당 최대 2회가 적용됩니다. 이는 숨겨진 사이트 설정 ai_automation_max_triage_per_minuteai_automation_max_triage_per_post_per_minute을 통해 조정할 수 있습니다.
12개의 좋아요

Awesome.

Could this also be used to write summaries for incoming mails, responding with a new topic in a different category?

1개의 좋아요

Not this feature, but we have a tool based automation that could do that with custom js , it is not quite ready yet

3개의 좋아요

Also worth noting, llm triage can also respond using a persona now, this means you can support custom replies based on triage

This automation unconditionally respond. Triage will conditionally respond

6개의 좋아요

Note @Saif we need to update the OP to explain “silent” option.

If you select “silent” no post is created, and no information is left behind.

This can sound extremely odd, but if you have a forced tool, it can perform side effects like

  • Make an HTTP request to a company internal API informing that something just happened.
  • Perform side effects on Discourse such as create a chat message, or flag a post

Using silent requires you also create a custom tool to perform the special action you want to perform.

Can you incorporate this into the OP (needs new screenshots etc)? Feel free to ask for clarifications.

2개의 좋아요

A few questions

  • Do you have to exclusively use silent mode? Can I have reply as whisper selected? Im assuming it doesn’t matter as there is no reply (from a UI perspective we should probably disable certain options if it doesn’t depend on it)

  • Does it need to be only Forced tools? What about just regular tool calls from the persona? What if the persona has no Forced tools?

  • I think we should put a disclaimer for this option given the dependency on Custom tools and having forced tools selected via the Persona

  • Going back to the use cases I think this changes the name of this feature from AI auto responder back to AI triage via Persona since this option doesn’t have “auto-responses” that are visible or invisible (whispers)

Yes it is exclusive at the moment. Which is a good point, I will see if I can make this a choice selector so it is less confusing.

Forced tools give you guarantees that tool will be called, but it can be used fine without forced tools.

Yeah it is a very difficult to explain and very powerful setting.

That is a good point.

2개의 좋아요

Can something like “Writes” or “Replies” be added to the post page when the persona responds? Can something like that appear when normal users reply to the post be added?

Technically it is a change we could make but it is quite complicated

1개의 좋아요

Hello, is there any time limitation for ai persona triggering? For example, it is triggered every 10 seconds, etc. If so, how can I edit this value.

Great feature, suggestion. In the first post maybe reference that the starting point is Discourse admin panel -> Plugins -> Automations -> Add automation and that the Automation feature is disabled by default and needs to be enabled.

Spent about 30 minutes looking through all the AI features to see how to enable this before noticing that this is under Automations (and I had to enable the Automation feature which was disabled by default).

1개의 좋아요

We discussed this with @roman today, we are thinking of adding it into the feature page so it is more discoverable.

5개의 좋아요