Discourse AI - 에이전트를 활용한 AI 트리아지

AI 트리아지는 AI 에이전트의 힘을 활용하여 주제에 지능적으로 응답합니다.

:information_source: 이 기능이 작동하려면 discourse-automationdiscourse-ai 플러그인 두 가지 모두 설치되어 있어야 합니다.

사용 사례

  1. 자동 지원: 사람들의 지원 질문에 지능적으로 응답을 생성합니다. 예를 들어, Support 카테고리에서 에이전트는 컨텍스트로 커뮤니티 콘텐츠를 사용할 수 있습니다. 보너스로, 위스퍼를 통해 답변을 생성하면 응답자가 실제 답변을 작성하기 전에 제안된 답변을 먼저 활용할 수 있습니다.

  2. 카테고리 전문가: 커뮤니티의 각 카테고리에 지정된 에이전트 전문가를 두세요. 주제의 첫 번째 게시물에 응답하고, 필요시 인간이 후속 조치를 취합니다.

  3. 세심한 모더레이션: 사용자가 커뮤니티에 적합한 콘텐츠를 올바른 위치에 게시하도록 유도합니다. 예를 들어, 특정 주제가 카테고리와 맞지 않는 것으로 판단되면, 해당 변경을 자동으로 수행하는 대신 다른 카테고리를 제안하는 답글을 작성하여 게시자에게 알립니다.

  4. 정체된 주제 후속 조치: stalled_topic 트리거를 사용하여 일정 기간 동안 답변이 없는 주제에 자동으로 응답하여 대화를 촉진합니다.

에이전트는 완전히 사용자 정의할 수 있으므로, 커뮤니티는 이 기능을 다양한 다른 방식으로 활용할 수 있습니다.

작동 방식

에이전트를 사용한 AI 트리아지는 에이전트를 통해 컨텍스트를 이해하고 지능적인 응답을 유도하여 주제와 게시물에 무조건적으로 응답할 수 있습니다.

이 기능을 설정하려면 관리자 → 플러그인 → 자동화 → 새 자동화로 이동하여 LLM Agent Triage 스크립트를 선택하세요. 이 기능을 사용하려면 먼저 에이전트를 생성해 두어야 합니다.

다음은 자동화 규칙과 관련 에이전트의 예시입니다.

트리거

이 자동화는 두 가지 트리거를 지원합니다:

  • 게시물 생성/수정: 새 게시물이 생성되거나 기존 게시물이 수정될 때 발생합니다.
  • 정체된 주제: 주제가 설정된 기간 동안 활동이 없을 때 발생합니다.

설정

이 기능을 구성하려면 특정 매개변수를 지정해야 합니다:

  • 에이전트: 트리아지에 사용할 AI 에이전트입니다. 기본 LLM과 사용자가 설정되어 있어야 합니다.

  • 위스퍼로 답글: 에이전트의 응답이 위스퍼로 표시될지 여부입니다.

  • 무음 모드: 선택 시 에이전트는 콘텐츠를 수신하지만 포럼에 아무것도 게시하지 않습니다. 이 옵션을 사용하기 전에 관리자가 사용자 정의 도구를 생성해야 합니다. 이는 에이전트 설정의 도구 필드와 함께 사용됩니다. 다음과 같은 용도로 유용할 수 있습니다:

    • 무언가 발생한 것을 알리기 위해 회사 내부 API로 HTTP 요청을 수행
    • 채팅 메시지를 생성하거나 게시물을 플래깅하는 등 Discourse에서 부수 효과를 수행

:information_source: 무음 모드위스퍼로 답글은 상호 배타적이며, 한 번에 하나만 활성화할 수 있습니다.

주의사항

  • LLM 호출은 비용이 많이 들 수 있습니다. 비용을 주의 깊게 모니터링하고 항상 작은 부분 집합으로 실행하는 것을 고려하세요.
  • LLM은 환각(hallucination)을 일으킬 수 있으므로 모든 출력을 신중하게 확인하세요.
  • 봇이 작성한 게시물은 자동으로 건너뛰어지며 에이전트를 트리거하지 않습니다.
  • 속도 제한이 적용됩니다: 기본적으로 전역적으로 분당 최대 60회의 트리아지 호출, 개별 게시물당 분당 최대 2회가 적용됩니다. 이는 숨겨진 사이트 설정 ai_automation_max_triage_per_minuteai_automation_max_triage_per_post_per_minute을 통해 조정할 수 있습니다.
12개의 좋아요

멋지네요.

이 기능을 이용해 수신 메일에 대한 요약을 작성하고, 다른 카테고리에서 새 주제로 답변하는 데도 사용할 수 있을까요?

1개의 좋아요

이 기능으로는 불가능하지만, 커스텀 JS를 사용하여 해당 작업을 수행할 수 있는 도구 기반 자동화 기능이 있습니다. 아직 완전히 준비되지는 않았지만요.

3개의 좋아요

또한 주목할 점은, LLM 트리아지가 이제 페르소나를 사용하여 응답할 수 있다는 것입니다. 이를 통해 트리아지 기반으로 사용자 정의 응답을 지원할 수 있습니다.

이 자동화는 무조건적으로 응답합니다. 트리아지는 조건부로 응답합니다.

6개의 좋아요

참고: @Saif, “silent” 옵션에 대한 설명을 추가하기 위해 OP를 업데이트해야 합니다.

"silent"를 선택하면 게시글이 생성되지 않고, 어떤 정보도 남기지 않습니다.

이는 매우 낯설게 들릴 수 있지만, 강제 도구(forced tool)를 사용하는 경우 다음과 같은 부수 효과(side effects)를 수행할 수 있습니다.

  • 방금 일어난 일이 있다는 사실을 알리기 위해 회사 내부 API에 HTTP 요청을 보냅니다.
  • Discourse에서 채팅 메시지를 생성하거나 게시글을 플래깅하는 등의 부수 효과를 수행합니다.

"silent"를 사용하려면 수행하려는 특별한 작업을 수행하기 위한 맞춤형 도구를 별도로 만들어야 합니다.

이 내용을 OP에 반영해 주실 수 있을까요? (새로운 스크린샷 등이 필요합니다) 설명이 필요하시면 언제든 질문해 주세요.

2개의 좋아요

몇 가지 질문이 있습니다.

  • silent 모드를 단독으로만 사용해야 하나요? 응답을 속삭임(whisper)으로 선택할 수 있나요? UI 관점에서 응답(whisper)이 없으므로 특정 옵션을 비활성화하는 것이 적절할 것 같습니다.
  • 반드시 강제(Forced) 도구만이어야 하나요? 페르소나(persona)의 일반 도구 호출은 어떨까요? 페르소나에 강제 도구가 없다면 어떻게 되나요?
  • 사용자 정의 도구 의존성과 페르소나를 통해 강제 도구를 선택해야 하는 점을 고려하여, 이 옵션에 대해 고지(disclaimer)를 추가해야 한다고 생각합니다.
  • 앞서 언급한 사용 사례를 다시 살펴보면, 이 옵션에는 가시적/비가시적(속삭임)인 "자동 응답"이 없으므로 이 기능의 이름을 AI 자동 응답자(AI auto responder)에서 페르소나 기반 AI 트리아지(AI triage via Persona)로 변경해야 한다고 생각합니다.

현재는 독점적으로 작동합니다. 좋은 지적이네요. 혼란을 줄이기 위해 선택기로 만들 수 있는지 살펴보겠습니다.

강제 도구는 해당 도구가 호출될 것이라는 보장을 주지만, 강제 도구 없이도 문제없이 사용할 수 있습니다.

네, 설명하기가 매우 어렵고 강력한 설정입니다.

좋은 지적입니다.

2개의 좋아요

페르소나가 응답할 때 게시글 페이지에 "작성"이나 "답글"과 같은 표시를 추가할 수 있을까요? 일반 사용자가 게시글에 답글을 달 때에도 그런 표시가 나타날 수 있을까요?

기술적으로는 변경할 수 있지만, 꽤 복잡한 작업입니다.

1개의 좋아요

안녕하세요, AI 페르소나 트리거에 시간 제한이 있나요? 예를 들어, 10초마다 트리거가 발동되는 식으로요. 만약 그렇다면 이 값을 어떻게 수정할 수 있나요?

훌륭한 기능 제안입니다. 첫 번째 게시물에서 시작점이 Discourse 관리 패널 -> 플러그인 -> 자동화 -> 자동화 추가임을 언급하고, 자동화 기능이 기본적으로 비활성화되어 있어 활성화가 필요하다는 점을 참고로 덧붙이는 것이 좋겠습니다.

이 기능이 자동화 항목 아래에 있다는 것을 알아채기 전에 모든 AI 기능을 살펴보고 어떻게 활성화하는지 확인하는 데 약 30분을 소요했습니다(기본적으로 비활성화되어 있던 자동화 기능을 활성화해야 했습니다).

1개의 좋아요

오늘 @roman과 이 문제에 대해 논의했으며, 더 쉽게 찾을 수 있도록 기능 페이지에 추가하는 것을 고려하고 있습니다.

5개의 좋아요