Discourse 챗봇 🤖

[merefield (Robert)]

이것은 AI이지만 "Discourse AI"는 아닙니다.

Discourse Chatbot 🤖 를 참고하세요. 힌트는 이름에 있습니다 (물론 이름을 변경할 수도 있습니다!) 문제를 게시할 때는 Chatbot 주제에 작성해 주세요. 하지만 어쨌든 모델은 Chatbot 설정에서 지정됩니다 :).

결론적으로 설정에서 Chatbot의 상세 로그(verbose logs)를 활성화하고, 정보를 warn으로 리다이렉트하여(이렇게 하면 프로덕션 환경에서 로그를 읽을 수 있습니다) /logs를 확인해 보세요.

[Bathinda (Bathinda Helper)]

답변 주셔서 감사합니다.

@Bathinda

이것은 AI이지만 “Discourse AI”는 아닙니다.

네, AI가 Discourse에서 제공되는 것이 아니라 다양한 벤더의 것이 될 수 있다는 점은 이해하고 있습니다.

@merefield

이것은 Discourse Chatbot 입니다. 이름에 힌트가 있습니다.

이 말로 'Chatbot’이 Discourse에서 개발/관리되고 있으며, 제3자 AI 벤더와는 관련이 없다는 것을 이해했습니다. 그래서 이 관리자 설정 페이지(..plugins/discourse-chatbot/settings)를 발견하고 주의를 기울였습니다(이전에 놓치고 있었습니다).

하지만 지금도(이 새로운 정보를 알게 된 후에도) 항상 응답을 시도하거나 ‘응답 중…’ 메시지가 계속 표시됩니다. ('Logs’나 sidekiq 메시지를 해석하여 원인을 찾지 못하고 있습니다).

다른 봇(아래 이름의 설정에서 활성화된 봇)이 사용 범위가 더 넓고(설정하기가 쉬운지) 알려 주실 수 있을까요?

AI bot add to header >> 헤더에 AI 봇과 PM을 시작하기 위한 버튼을 표시합니다.

[merefield (Robert)]

@Bathinda

이 말로 ‘Chatbot’이 Discourse에 의해 개발되었거나/관리되고 있다는 것을 이해했습니다.

아니요, Chatbot은 Discourse의 첫 번째 AI 봇이며 제가 개발했습니다

그래서 GitHub URL에 제 사용자명이 포함되어 있고, 주제(Topic)에 제 아바타가 있는 것입니다

[Bathinda (Bathinda Helper)]

@merefield

Chatbot은 Discourse에서 첫 번째 AI 봇이었습니다.

맞아요. 제 실수였습니다.

부탁인데, 이 AI 봇 플러그인이 사용할 수 있는 모델을 제어하는 드롭다운 메뉴에서 'Chat Gpt' 모델만 제공되고, 내 ChatGPT API 키를 묻지도 않은 채 어떻게 그들을 사용할 수 있는지 궁금합니다. (다른 곳에서 설정한 AI 설정의 내 ChatGPT API 키에 접근할 수 있는 건가요?)

그리고 마지막으로, 이 ChatBot이 AI 설정에서 제공하는 다른 것들보다 더 좋다고 생각하시나요?

지금은 위에 언급한 의문점을 해소하기 위해 이 플러그인 페이지로 가보겠습니다.

[merefield (Robert)]

오늘 Chatbot의 작은 업데이트를 배포합니다. 번거로운 버그를 수정하고 추론 모델에 RAG를 도입하는 내용입니다:

1.4.7 Maintenance Release (#127)

Chatbot이 마음에 드시고 제가 좋은 일을 했다고 생각하신다면 커피를 사주세요 , 그리고 Chatbot이 여러분의 비즈니스나 조직에 중요하시다면 더 높은 등급으로 스폰서를 되어주세요 . 이렇게 하면 Chatbot의 시기 적절한 업데이트와 미래를 보장하는 데 도움이 됩니다.

릴리스 1.4.7

• 기능: 추가 추론 모델, 특히 o3-mini 지원
• 기능: 추론 모델에 대한 RAG 지원 (현재는 o3-mini만 해당)
• 수정: 봇이 생성한 이미지에 대해 사용자가 토론할 수 있도록 허용

참고

• o3-mini를 사용하는 경우 추론 과정에서 토큰을 소비할 수 있도록 충분한 Chatbot max response tokens를 설정해 주세요 …
• 이미지 토론은 이미지가 업로드되어야 가능합니다. 설정에 따라 이미지 업로드에 약 1분 정도 걸릴 수 있습니다.

[ozkn (Mathx)]

안녕하세요, 기본값으로 openai model o3 mini를 선택하면 플러그인은 정상적으로 작동하고 응답을 주지만, 사진이 포함된 게시물에는 응답하지 않습니다. 비전(Vision) 설정은 이미 직접 선택되어 있고, gpt 4o 설정만 있는 상태인데, 이것이 오류의 원인인가요?

[merefield (Robert)]

@ozkn

비전 설정이 직접 선택되어 있습니다

o3에는 비전 기능이 없으므로 이 설정을 "함수를 통해"로 변경하세요.

비전 기능에는 4o가 좋은 선택입니다.

[ozkn (Mathx)]

이렇게 설정하고 테스트를 해봤는데, 이미지 내용을 인식하지 못하고 응답도 없습니다. 모든 신뢰 수준에서 o3-mini를 사용했기 때문일까요? 모든 신뢰 수준을 4o로 전환하면 응답이 옵니다.

[merefield (Robert)]

방금 시도해 봤는데 작동합니다.

비전 함수 호출에 주목해 주세요.

이것은 o3-mini와 4o를 사용하여 비전 호출을 수행합니다

[ozkn (Mathx)]

불행히도 여전히 작동하지 않았습니다. Azure를 사용 중인데, 이것이 원인일 수 있을까요?

[merefield (Robert)]

네, 그럴 수도 있습니다. 'via 함수’는 OpenAI와 직접 연결할 때만 작동할 수 있습니다.

[merefield (Robert)]

릴리스 1.4.8

FEATURE: experimental inline pdf enquiry support (#128)

실험적인 인라인 PDF 조회 기능을 제공합니다.

실험 설정 chatbot_support_pdf를 활성화하면, 현재 대화에서 업로드된 모든 PDF의 내용이 OpenAI로 전송되어 대화 컨텍스트의 일부가 됩니다.

참고: Direct PDF file input now supported in the API - Announcements - OpenAI Developer Community

팁: 공개 영역에서 파일을 업로드할 때마다 챗봇에게 문서 요약을 요청하세요. 그러면 챗봇이 생성한 답변이 임베드되어, 나중에 챗봇에게 해당 내용을 쉽게 찾을 수 있도록 요청할 수 있습니다.

참고: 이 기능은 OpenAI에 대한 직접 호출에서만 작동할 수 있습니다. 다른 서비스를 호출하기 위해 다른 기본 URL을 사용하는 경우 해당 서비스가 이를 지원하는지 보장되지 않습니다.

참고: 현재는 게시글(Post)만 지원합니다.

[Olle11]

새로운 포럼이 제한된 예산이나 초기 비용 없이 이 봇을 실행할 수 있을까요? 흥미롭다고 생각해서 직접 해보고 싶지만, 할당량을 초과하거나 예상보다 많은 비용이 발생할까 봐 걱정됩니다. OpenAI의 가격 모델을 읽어 보았지만, 내용이 다소 모호하게 느껴졌습니다.

감사합니다.
올레

[merefield (Robert)]

Hey @Olle11, 이 플러그인을 "무료"로 실행하려면 인프라에 로컬 LLM을 설정해야 하지만, 이는 사실 매우 비싼 옵션입니다. 왜냐하면 정말로 강력한 서버가 필요하기 때문이죠.

다만, OpenAI 계정을 설정하면(설정에 링크 있음) 무료 크레딧($5 정도?)을 받을 수 있습니다.

원하시면 사용자 레벨별로 할당량을 설정하거나 관리자만 사용할 수 있도록 설정할 수도 있습니다.

gpt-4o-mini를 사용하면 비용이 많이 들지 않을 것이며, 이 모델은 훌륭한 상호작용을 위해 충분히 강력합니다.

[Olle11]

@merefield님, 답변해 주셔서 감사합니다. 확인해 보겠습니다.

[Olle11]

머필드님,

챗봇의 가장 일반적인 사용 사례가 무엇인지 궁금합니다. 스레드를 읽어 보았지만, 이 부분에 대해 추가할 사항이 있으신지 궁금합니다.

성장하는 포럼이 챗봇을 활용할 수 있는 사용 사례를 정리해 보겠습니다.

감사합니다.
올레

[merefield (Robert)]

다양한 용도로 사용하고 있습니다:

• 포럼의 신규 사용자 자동 응답
• 링크된 기사 또는 웹 페이지 요약
• 사용자가 흥미로워할 만한 포럼 콘텐츠 추천
• 포럼의 비공개 인터랙티브 검색
• 업로드된 PDF 파일에 대한 토론
• 그림 그리기
• Locations 플러그인과 결합하여 사용자 간의 근접성 및 특정 위치에 대한 근접성을 논의할 수 있습니다.

OP에는 다른 용도들도 나열되어 있지만, 위 항목들은 제 사이트에서 흔히 사용되는 용도입니다.

이를 위한 플러그인을 직접 제작할 수도 있으며, 저는 제가 운영하는 사이트 중 하나에 특화되어 조회된 항목의 특정 통계를 반환하는 플러그인을 하나 가지고 있습니다.

[Olle11]

재밌네요, 감사합니다. 사용하시는 사이트 링크를 보내주실 수 있을까요? 여기가 아니면 개인 메시지로 보내주셔도 좋습니다.

감사합니다
올레

[merefield (Robert)]

이 중 두 개는 ‘Topic List Previews’ 컴포넌트의 주제에 나열되어 있습니다.

하지만 이 플러그인의 데모로 제대로 설정된 것은 아니므로, 신규 사용자라면 기능이 제한적이거나 누락되어 있을 수 있습니다.

따라서 자신의 인스턴스에서 직접 설정해 보시길 권해 드립니다. 그렇게 오래 걸리지 않습니다.

[Olle11]

좋아요, 확인해 보겠습니다. 메리필드님, 감사합니다.