Discourse 챗봇 🤖

[merefield (Robert)]

정확한 프롬프트를 확인하려면 로그를 확인하세요.

자동 응답 프롬프트가 사용자의 1인칭 관점에서 작성되었는지 확인하세요.

[Jagster (Jakke Flemming)]

모든 것이 정상으로 보입니다. "Jagster says…"는 올바른 위치에 있고, 시스템 프롬프트도 마찬가지입니다. 그 역할은 다음과 같습니다:

• 인사하고 자기소개를 하는 것
• 5개의 관련 주제 후보를 찾아내어, 왜 그 주제들이 적합한지 두 문장으로 설명하고 링크를 제공하는 것

그런데 지금은 인사를 하지 않고 자기소개도 하지 않습니다. 5개의 주제를 제시하고 그 내용도 알려주지만, 링크는 제공하지 않습니다.

그러니 프롬프트 사이에 어떤 충돌이 있는 것 같습니다. 아니면 그냥 무례한 것일 수도 있겠네요

음, 비슷한 상황에서 DAI가 어떻게 하는지 시험해 봐야 할 것 같습니다. DAI에는 제한 사항이 있고 빌드 방식도 다르기 때문에 완전히 동일하지는 않겠지만, 이 모든 "내가 할 일을 선택한다"는 태도가 OpenAI에서 비롯된 것인지에 대한 힌트를 줄 수 있을지도 모릅니다.

하지만 지금은 실제 문제를 특정할 수 없고, 증상만 보이고 있습니다.

“as to whether” — 원어민분들은 정말 그렇게 말씀하시나요?

[merefield (Robert)]

다음과 같이 시작하면 됩니다:

“안녕이라고 인사하며 나를 맞이해줘. 그리고 내 첫 게시글과 관련이 있는 포럼 게시글 5개를 로컬 포럼 검색을 통해 찾아서 링크와 함께 공유해줘.”

(카테고리 프롬프트이며, 시스템 프롬프트가 아닙니다.)

결국 봇에 대해 언급하지 않고, 마치 사용자가 작성한 게시글인 것처럼 작성하면 됩니다.

[Jagster (Jakke Flemming)]

죄송하지만 스크린샷입니다. 현재 iPad에서 선택한 내용을 복사할 수 없네요.

[merefield (Robert)]

그렇게 될지 확신은 없습니다. 사용자가 도움을 요청하는 것처럼 1인칭으로 작성해야 합니다. 이는 시스템 프롬프트가 아닙니다. 또한 봇의 행동 방식을 설명하는 것도 아닙니다(그것은 여전히 전송되는 시스템 프롬프트의 역할입니다). 이는 (숨겨진 형태이긴 하지만) 사용자가 구체적인 도움을 요청하는 것입니다.

[Jagster (Jakke Flemming)]

감사합니다! 문제가 해결되었고 (이전에 비슷한 문제 몇 가지도 함께 해결되었습니다).

[BrianC (Brian)]

@merefield

다음과 같은 문구로 시작하면 좋을 것 같습니다:

“안녕이라고 인사하고 자기소개를 해줘. 내 첫 번째 게시물과 관련된 포럼 검색을 이용해 포럼에서 5개의 게시물을 공유해줘. 링크를 포함해 줘.”

(카테고리 프롬프트이지 시스템 프롬프트가 아닙니다.)

결국 봇을 언급하지 않고 사용자가 쓴 것처럼 작성하는 것입니다.

매우 유용한 정보네요! 시스템 프롬프트에 대한 모범 사례 팁이 있을까요?”

[merefield (Robert)]

저희 중 하나가 다음과 같습니다:

You are a blah blah blah.  You often respond with humour.  You have great tools in the form of functions that give you the power to get newer information. Only use the functions you have been provided with.   When answering questions, first use the function local_forum_search to see if the answer is on the local forum.  Always share links to sources.  The current date and time is %{current_date_time}.  When referring to users by name, include an @ symbol directly in front of their username.  Only respond to the last question, using the prior information as context, if appropriate

물론 blah blah blah 부분은 수정할 수 있습니다

[merefield (Robert)]

네, 더 명확하게 만들기 위해 이 지침을 참고해 원문(OP)을 조금 다듬을 수 있습니다. 이것이 최선의 방법이라는 것이 바로 드러나지는 않으니까요.

[BrianC (Brian)]

로버트, 정말 감사합니다. 감사하게 생각합니다. 제 목표도 OP를 명확히 하고, 질문의 범위를 넓히며, 커뮤니티의 응원을 담아 질문을 다듬어 보는 것입니다. 여러분의 지원과 노력이 정말 감사합니다!

[Sidi_Codet (Olajuwon)]

@merefield, 왜 OpenAI만 지원하나요? Google의 Gemini, Anthropic의 Claude AI, Mixtral 같은 다른 모델들도 포함할 수 있을까요?

[merefield (Robert)]

무엇을 하는지 알고 있다면, 커스텀 URL 설정을 통해 프록시를 사용하여 다른 서비스에 액세스할 수 있습니다. 또한 OP에 설명된 대로 로컬 모델이나 Azure와 함께 작동할 수도 있습니다.

왜 OpenAI에 초점을 맞추고 있나요? 저는 이를 제공하기 위해 급여를 받지 않으므로 복잡성을 합리적인 수준으로 유지해야 하기 때문이며, OpenAI가 선점 효과를 가지고 있었기 때문입니다.

[Sidi_Codet (Olajuwon)]

알겠습니다. 카드 제한 문제로 인해 모든 사용자가 OpenAI API에 접근할 수 있는 것은 아닙니다. 그래도 의견 주셔서 감사합니다!

[bugtracker]

공개 포럼의 멘션 기능을 사용할 때마다 항상 “토큰이 부족합니다”(과다 사용 오류)가 발생합니다. 랭크가 높은 사용자로 시도해 보고 있지만, 어디서 문제가 발생하는지 도무지 이해가 되지 않습니다.

봇이 응답할 수 있도록 충분한 토큰을 확보하려면 어떤 설정을 조정해야 하나요?

[merefield (Robert)]

여기에서 설명된 Sidekiq 쿼터 재설정 작업을 트리거해 보세요:

@merefield

모든 사용자가 전체 쿼터로 시작하도록 확인하기 위해 전역 쿼터 재설정 작업을 한 번만 일회성으로 실행하는 것을 고려해 볼 수 있습니다. 이것은 일회성 작업입니다!

/sidekiq/scheduler의 sidekiq에서:

트리거 버튼을 누르세요.

작업 이름은 Jobs::ChatbotQuotaReset입니다

(앞으로는 이것이 자동으로 수행됩니다)

이후 봇에게 개인 채팅으로 남은 쿼터가 얼마인지 확인을 요청할 수 있습니다. 예:

“남은 쿼터가 얼마야?”

(채팅봇이 개인 채팅을 허용한 경우)

[bugtracker]

할당량 트리거가 발생한 후 작업을 시작하기까지 특정 대기 시간이 필요한가요? 작업을 시작했는데 봇이 응답이 없습니다.

[bugtracker]

또 다른 질문은,

봇이 카테고리 내의 모든 새 주제에 자동으로 응답하는 시나리오에서, 이후 펼쳐지는 지속적인 토론에는 참여하지 않도록 할 수 있을까요? 저는 봇이 원래 게시물에만 답변을 한 뒤, 언급되지 않는 한은 아무런 활동을 하지 않는 상태를 유지하길 원합니다.

[merefield (Robert)]

아마 30초 정도일까요?

@bugtracker

Idis를 실행했는데 봇이 응답하지 않아요

봇을 @멘션했거나, 봇의 마지막 게시물에 게시물에 있는 ‘답장’ 버튼을 사용하여 답장을 보냈나요?

[merefield (Robert)]

두 번째 사람(인간)이 대화(즉, 게시글)에 참여하면 봇은 자동으로 응답을 중단합니다.

인간이 한 명만 있을 경우, 봇은 호출될 때마다 항상 응답합니다.

이 내용은 OP(원문)에서 다음과 같이 설명되어 있습니다:

Discourse 챗봇

요약 Discourse용 원본 AI 챗봇 리포지토리 링크 GitHub - merefield/discourse-chatbot: An AI bot with RAG capability for Topics, Chat & Customer Support in Discourse, currently powered by OpenAI · GitHub 설치 가이드 Discourse에 플러그인 설치 방법 스폰서십 이 플러그인이 마땅히 받아야 할 유지보수를 받고 향후에도 사용자의 사이트에서 계속 작동할 수 있도록, 사용자의 조직과 개인의 자원 및 필요에 맞는 수준으로 저의 오픈소스 작업에 대한 정기적인 스폰서가 되어 주십시오. 이 플러그인을 즐기고 계신가요? GitHub에서 를 눌러 주세요! [image] …

[bugtracker]

@merefield

30초 정도?

제 포럼은 10만 명 이상의 사용자를 보유하고 있으며, 방금 다이제스트 시간 범위를 180일에서 600일로 변경했습니다. 그 결과 현재 많은 이메일이 전송되고 있습니다. 이것이 쿼트 트리거에 영향을 미칠 수 있을까요? 쿼트 리셋을 트리거했는데 아무런 반응이 없었으며, 이미 1시간이 지났습니다. 봇에 대해 언급했습니다, 네.