TypeSafe Jev와 다른 System One 의사결정 모델

이제 의사결정 모델(decision models)에 대한 내장 지원이 추가되었음을 기쁘게 알려드립니다. :confetti_ball:

의사결정 모델은 TypeSafe.ai가 주도하여 처음 개발했으며, 이후 CloudFlare(clef), Open AI(decisions api)를 비롯한 수많은 제공자에서 구현되었습니다.

이를 통해 텍스트와 이미지를 빠르고 정확하며 저렴하게 분류할 수 있습니다. 입력 데이터에 대해 임의의 질문을 던져 답을 얻는 방식입니다.

이전에는 이러한 동작을 위해 언어 모델에 의존했지만, 비용/속도와 정확도 면에서 기대에 미치지 못했습니다.

Discourse AI에 직접적인 지원을 추가했습니다:


새로운 탭(현재로선)은 Discourse Workflows가 활성화된 경우에만 사용 가능합니다(유일한 소비자가 되기 때문이죠).

의사결정 모델을 설정하면 워크플로우에서 새로운 “분류(Classify)” 모델에 접근할 수 있습니다.


새로운 지능은 사용자가 자체적으로 설계한 분류기를 사용하여 텍스트(및 이미지)를 분류할 수 있기 때문에 매우 다양한 워크플로우에 활용될 수 있습니다.

  • 자동 조정 - 토론이 뜨거워지면 알림을 받습니다
  • 특정 주제가 논의될 때 해당 팀 구성원에게 알림을 보냅니다
  • 자동 태그 지정 및 카테고리 분류
  • 그리고 그 이상

즐겨주시고, 생각난 흥미로운 워크플로우를 공유해 주세요.

26개의 좋아요

응답 분류(triage) 에이전트에 이 기능이 정말 유용하다고 생각합니다. 현재 첫 테스트를 진행 중인데, 결과를 지켜보는 중입니다. 의사결정을 위한 새로운 모델들이 매우 정밀하고 빠르다는 점은 이해하고 있으며, Discourse에서 이를 활용할 수 있게 되어 기쁩니다.

이 모델을 일반 에이전트에도 통합할 계획이 있는지, 또는 기술적으로 가능한지 궁금합니다. 먼저 분류한 후 작업을 위임하는 '시니어 헬퍼(Senior Helpers)'를 개발할 수 있을 것 같습니다. 아니면 그런 방식은 전혀 의미가 없는 걸까요?

아직 이 기능의 진정한 최적 사용 사례를 완전히 이해하지 못했을 수도 있고, 제 질문이 맥락에 맞지 않을 수도 있다고 생각합니다.

2개의 좋아요

여기에는 다양한 활용 방법이 있을 것 같고, 올바른 에이전트나 서브에이전트를 찾아 답변하도록 게이트로 사용하는 것은 확실히 탐구해 보고 싶은 부분입니다.

어떻게 작동할 것으로 보시나요?

우리의 구성을 예로 들어, 제가 상상하는 구조는 다음과 같습니다. 메인 에이전트에는 다섯 개의 서브에이전트가 있습니다:

서브에이전트 선택되는 경우
publicator 회원이 게시 전에 개선할 텍스트를 공유할 때
links 게시글 초안으로 다듬을 느슨한 링크들
web 포럼 외부에서 변화하는 사항들
base 큐레이션된 아카이브: 오래된 토론, 문서, 책
at 회원이 공유한 차트를 우리의 공개 기준에 맞춰 검토할 때

현재 부모 LLM은 서브에이전트의 설명을 읽고 spawn_agent를 통해 하나를 선택합니다. 게이트(Gate)는 이 결정을 LLM으로부터 가져오게 됩니다:

  1. 에이전트에 게이트 설정을 추가하여 의사결정 모델(decision model)을 지정합니다.
  2. 선택지는 이미 존재하는 서브에이전트 설명들과 "직접 답변하기"입니다. 관리자가 새로 작성해야 할 내용은 없습니다.
  3. 현재 사용자가 접근할 수 있는 서브에이전트만 제시됩니다.
  4. 신뢰도 임계값 이상이면 해당 서브에이전트가 직접 실행됩니다. 임계값 미만이면 결과가 힌트(hint)로 부모 LLM에게 전달되고, LLM이 현재와 마찬가지로 판단합니다.
  5. 의사결정 모델은 이미지를 분류하므로, "회원이 차트를 공유했다"는 정보는 이미지 자체에서 유추됩니다.

동일한 게이트를 예/아니오 질문 형태로 사용하면, LLM 실행 전 가드(Guard) 역할로도 기능할 수 있습니다.

저희는 교육 커뮤니티이며 시그널, 목표 가격 또는 투자 조언을 제공하지 않으므로, “이것은 트레이딩 시그널을 묻는 것인가?” → 고정된 답변으로 처리됩니다. 현재 이 규칙은 모든 프롬프트에 한 줄로 포함되어 있지만, 모델은 압박 상황에서 이로부터 벗어나는 경향이 있습니다.

혹시 진행하게 된다면, 저희 포럼에서 초기 버전을 시험해 볼 수 있기를 기꺼이 원합니다.