Discourse 챗봇 🤖

merefield · 9월 21, 2024, 6:02오후

수정되었습니다: FIX: do not exlude single user prompts in submission - Pull Request #120 - merefield/discourse-chatbot - GitHub

기다려 주셔서 감사합니다.

ozkn · 9월 22, 2024, 6:58오전

플러그인을 업데이트했습니다. 챗봇 응답에는 문제가 없습니다. 하지만 이제 챗봇이 이미지 내용을 볼 수 없다는 오류를 표시하고 있습니다. 피드백을 드리고자 합니다. 제 비전 설정: 직접 연결

merefield · 9월 22, 2024, 7:29오전

리포트 감사합니다. 확인해 보겠습니다.

merefield · 9월 22, 2024, 10:12오전

다음 커밋부터 해당 문제가 수정되었을 것입니다:

하지만 테스트 중 흥미로운 점을 발견했습니다.

Discourse에서는 이미지가 게시글 데이터에 완전히 반영되는 데 약간의 지연이 발생하여, 봇이 너무 빠르게 응답하면 이미지가 존재하는 것을 감지하지 못할 수 있습니다.

해결 방법은 다음 값을 높이는 것입니다:

chatbot reply job time delay - 0과 2로 테스트해 보았는데, 0은 너무 빠른 경우가 많으므로 속도를 조금 늦추는 것이 좋습니다.

항상 이전 게시글의 이미지를 참조하는 경우 문제가 없으며, 같은 게시글에 이미지를 올린 후 바로 참조하는 경우(예: “이 이미지를 설명해 주세요”)에만 문제가 발생합니다.

ozkn · 9월 22, 2024, 10:16오전

이 설정은 1로 되어 있었는데, 이제 2로 변경했습니다. 업데이트를 하고 시도해 보겠습니다. 수정해 주셔서 감사합니다.

merefield · 9월 22, 2024, 10:21오전

이미지 처리에 더 많은 시간이 필요한 Discourse 포럼이 있을 수 있으니, 기본값은 2, 최대값은 5로 설정해 두었습니다.

ozkn · 9월 22, 2024, 10:22오전

플러그인을 업데이트하고 테스트로 4개의 이미지를 사용해 보았지만, 오류가 발생하지 않았습니다. 빠른 수정 감사합니다.

merefield · 9월 22, 2024, 10:30오전

제가 무슨 말을 하고 싶은지 명확히 하기 위해 예를 하나 들겠습니다:

응답 지연이 0인 경우, 그 혼란스러운 상황을 공유하고 싶지 않습니다

hiddenseal · 9월 24, 2024, 4:07오전

안녕하세요! o1에 대한 지원 추가 계획이 있나요? o1은 오늘 티어 4 고객에게 출시되었습니다. o1이 지적하는 문제 중 하나는 다음과 같습니다:

Chatbot: 채팅 완성(Completion) 중 문제가 발생했습니다: 상태: 400, 메시지: 이 모델에서는 'messages[0].role’에 ‘system’ 값을 지원하지 않습니다.

merefield · 9월 24, 2024, 7:15오전

이 모델은 정말 골치 아파요

https://platform.openai.com/docs/guides/reasoning/beta-limitations

도구도 없고, 전용 캐릭터(시스템 프롬프트 없음)도 없으면서, 게다가 가격이 이렇게 비싼데 이걸 유용하게 쓸 수 있다고 확신하나요?

merefield · 9월 24, 2024, 8:29오전

o1-preview 및 o1-mini 지원 추가.

basic 봇 유형을 선택해야 합니다(Open AI에서 아직 도구를 지원하지 않기 때문!).

예시

github.com/merefield/discourse-chatbot

FEATURE: support o1 reasoning models (#121)

main ← add_support_for_reasoning_models

merged 08:25AM - 24 Sep 24 UTC

merefield

+40 -17

This PR introduces support for `o1-preview` and `o1-mini` advanced reasoning mod…els. Must be used in `basic` mode. e.g. <img width="756" alt="image" src="https://github.com/user-attachments/assets/c007383f-6bf6-4565-b825-6f30802df324"> Note there are significant limitations to these models including: * no system prompt support (so you can't customise the character of your bot) * no tool support (so you can't use tools like searching your local forum) * no changing of model parameters.

참고: 작성 시점에는 Tier 4 계정이 있어야 이 베타 모델에 접근할 수 있습니다. 사용 가능해지면 이메일로 안내를 받으실 수 있습니다.

hiddenseal · 9월 24, 2024, 3:45오후

정말 감사합니다!

아, 물론이죠. 저희의 많은 사용 사례는 과학적 질문과 문제 해결을 돕는 것이며, o1은 4o보다 훨씬 뛰어납니다. 사실, 4o가 더 저렴함에도 불구하고 과학 분야에서는 눈에 띄게 열등했기 때문에 4에서 4o로 전환하지 않았습니다.

merefield · 9월 25, 2024, 9:04오전

@hiddenseal (그리고 과학 관련 콘텐츠에 관심 있는 모든 분)

시스템 프롬프트 없이 o1에서 수학 공식을 사용할 수 있는 우회 방법을 찾았습니다:

Maths 플러그인 사용
챗봇에게 공식과 수식을 포맷하는 방법을 지시

예:

x의 5제곱에서 1을 뺐을 때 0이 되는 x의 값은?

답변에는 다음 포맷을 사용하세요:

$$
공식과 수식
$$

물론 수학용 봇을 자주 사용하는 사이트라면 이러한 포맷 지침은 시스템 프롬프트에 넣는 것이 일반적입니다. 하지만 o1은 아직 그 기능이 없는 것 같습니다(아직?). 그래서 요청 시점에 명시적으로 지시해야 합니다. 그래도 잘 작동하는 것 같습니다

ozkn · 9월 26, 2024, 2:57오후

마지막 업데이트 이후 다음 오류가 발생하고 있습니다. 알려드리고자 합니다.

채팅봇: Chat Completion에 문제가 발생했습니다: 상태: 400, 메시지: 인식할 수 없는 요청 인자가 제공되었습니다: max_completion_tokens

merefield · 9월 26, 2024, 3:04오후

다시 한번 강조하지만, 최신 API 버전을 사용해야 합니다.

max_tokens는 비추천(deprecated) 상태이며, max_completion_tokens로 대체되고 있습니다.

참고: o1-mini는 max_tokens와 함께 전혀 작동하지 않습니다.

최신 Azure API를 사용하고 있는지 확인하세요.

그렇게 할 수 없다면, 변경 사항 이전 커밋에 해당하는 브랜치를 포크에서 생성하고, app.yml에서 해당 포크와 브랜치를 git clone하세요.

merefield · 9월 28, 2024, 1:13오후

방금 기본 설정의 최신 3B llama3.2 모델로 로컬에서 Chatbot을 테스트해 보았는데, 정말 놀랍습니다.

도구(Tools)도 정상적으로 작동하며 속도가 _매우 빠릅니다*.

Meta의 훌륭한 성과입니다!

이것은 비용이 적게 드는 개발이나 실험, 또는 인터넷 연결이 제한적인 환경에서 훌륭한 선택지입니다.

설정:

(커스텀 모델을 지정했기 때문에 이 모델 드롭다운은 무시됩니다)

ollama가 설치되어 실행 중이어야 합니다

exlabs · 10월 4, 2024, 2:14오후

@merefield

훌륭한 플러그인을 만들어 주셔서 감사합니다. 저는 사이트를 셀프호스팅하는 버전을 작업 중이며, 이를 통해 자유롭게 실험해 보고 있습니다. 여기서 하신 것처럼 Building a technical support chatbot 의 내용을 재현하는 것이 목표입니다.

지침을 따라 app.yml 파일에 다음을 추가했습니다.

- git clone https://github.com/merefield/discourse-chatbot.git

그러나 ./launcher rebuild app을 실행하면 오류가 발생합니다.

Gem::LoadError: can’t activate multipart-post-2.2.3, already activated multipart-post-2.4.0 (Gem::LoadError)

전체 오류 메시지

I, [2024-10-04T14:03:14.844712 #1] INFO – : > exec chpst -u redis -U redis /usr/bin/redis-server /etc/redis/redis.conf

I, [2024-10-04T14:03:14.846521 #1] INFO – : > sleep 10

2259:C 04 Oct 2024 14:03:14.854 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo

2259:C 04 Oct 2024 14:03:14.854 # Redis version=7.0.7, bits=64, commit=00000000, modified=0, pid=2259, just started

2259:C 04 Oct 2024 14:03:14.854 # Configuration loaded

2259:M 04 Oct 2024 14:03:14.855 * monotonic clock: POSIX clock_gettime

2259:M 04 Oct 2024 14:03:14.855 # Warning: Could not create server TCP listening socket *:6379: bind: Address already in use

2259:M 04 Oct 2024 14:03:14.855 # Failed listening on port 6379 (TCP), aborting.

I, [2024-10-04T14:03:24.849199 #1] INFO – :

I, [2024-10-04T14:03:24.849755 #1] INFO – : > cd /var/www/discourse && su discourse -c ‘bundle exec rake db:migrate’

rake aborted!

Gem::LoadError: can’t activate multipart-post-2.2.3, already activated multipart-post-2.4.0 (Gem::LoadError)

/var/www/discourse/lib/plugin_gem.rb:25:in `load’

/var/www/discourse/lib/plugin/instance.rb:824:in `gem’

/var/www/discourse/plugins/discourse-zendesk-plugin/plugin.rb:13:in `activate!’

/var/www/discourse/lib/plugin/instance.rb:767:in `instance_eval’

/var/www/discourse/lib/plugin/instance.rb:767:in `activate!’

/var/www/discourse/lib/discourse.rb:348:in `block in activate_plugins!’

/var/www/discourse/lib/discourse.rb:345:in `each’

/var/www/discourse/lib/discourse.rb:345:in `activate_plugins!’

/var/www/discourse/config/application.rb:232:in `block in class:Application’

/var/www/discourse/lib/plugin.rb:6:in `initialization_guard’

/var/www/discourse/config/application.rb:232:in `class:Application’

/var/www/discourse/config/application.rb:75:in `module:Discourse’

/var/www/discourse/config/application.rb:74:in `<top (required)>’

/var/www/discourse/Rakefile:7:in `<top (required)>’

/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rake-13.2.1/exe/rake:27:in `<top (required)>’

/usr/local/bin/bundle:25:in `load’

/usr/local/bin/bundle:25:in `’

(See full trace by running task with --trace)

I, [2024-10-04T14:03:33.989382 #1] INFO – :
…

I, [2024-10-04T14:03:33.989950 #1] INFO – : Terminating async processes

I, [2024-10-04T14:03:33.989982 #1] INFO – : Sending INT to HOME=/var/lib/postgresql USER=postgres exec chpst -u postgres:postgres:ssl-cert -U postgres:postgres:ssl-cert /usr/lib/postgresql/13/bin/postmaster -D /etc/postgresql/13/main pid: 36

I, [2024-10-04T14:03:33.990027 #1] INFO – : Sending TERM to exec chpst -u redis -U redis /usr/bin/redis-server /etc/redis/redis.conf pid: 104

104:signal-handler (1728050613) Received SIGTERM scheduling shutdown…

2024-10-04 14:03:33.990 UTC [36] LOG: received fast shutdown request

2024-10-04 14:03:33.991 UTC [36] LOG: aborting any active transactions

2024-10-04 14:03:33.996 UTC [36] LOG: background worker “logical replication launcher” (PID 51) exited with exit code 1

2024-10-04 14:03:33.997 UTC [46] LOG: shutting down

104:M 04 Oct 2024 14:03:34.007 # User requested shutdown…

104:M 04 Oct 2024 14:03:34.007 * Saving the final RDB snapshot before exiting.

2024-10-04 14:03:34.023 UTC [36] LOG: database system is shut down

104:M 04 Oct 2024 14:03:34.025 * DB saved on disk

104:M 04 Oct 2024 14:03:34.025 # Redis is now ready to exit, bye bye…

FAILED

Pups::ExecError: cd /var/www/discourse && su discourse -c ‘bundle exec rake db:migrate’ failed with return #<Process::Status: pid 2262 exit 1>

Location of failure: /usr/local/lib/ruby/gems/3.3.0/gems/pups-1.2.1/lib/pups/exec_command.rb:132:in `spawn’

exec failed with the params {“cd”=>“$home”, “tag”=>“migrate”, “hook”=>“db_migrate”, “cmd”=>[“su discourse -c ‘bundle exec rake db:migrate’”]}

bootstrap failed with exit code 1

** FAILED TO BOOTSTRAP ** please scroll up and look for earlier error messages, there may be more than one.

./discourse-doctor may help diagnose the problem.

289408d3c0350809f88a235d9c3ae0b23074f4e1a727748bbc3ab3b205e18115

==================== END REBUILD LOG ====================

Failed to rebuild app.

이 문제가 플러그인과 관련이 있는지 아이디어가 있을까요?

merefield · 10월 4, 2024, 2:22오후

Chatbot은 gem multipart-post-2.4.0에 의존합니다.

zendesk 플러그인이 최신 버전이 아닌 것 같습니다?

저자에게 연락하여 업데이트를 요청하거나 zendesk 플러그인에 PR을 보내는 것을 추천합니다

대신 Chatbot을 포크하여 이전 버전에서 작동하는지 확인해 볼 수도 있습니다.

github.com/discourse/discourse-zendesk-plugin

plugin.rb

4a866cd0f


      
          # name: discourse-zendesk-plugin
          # about: Allows the creation of Zendesk tickets from Discourse topics.
          # meta_topic_id: 68005
          # version: 1.0.1
          # authors: Yana Agun Siswanto, Arpit Jalan
          # url: https://github.com/discourse/discourse-zendesk-plugin
          
          gem "inflection", "1.0.0"
          
          if Gem::Version.new(Faraday::VERSION) >= Gem::Version.new("2.0")
            gem "multipart-post", "2.2.3", require_name: "net/http/post/multipart"
            gem "faraday-multipart", "1.0.4", require_name: "faraday/multipart"
            gem "zendesk_api", "1.38.0.rc1"
          end
          
          enabled_site_setting :zendesk_enabled
          
          module ::DiscourseZendeskPlugin
            PLUGIN_NAME = "discourse-zendesk-plugin"
          
            ZENDESK_ID_FIELD = "discourse_zendesk_plugin_zendesk_id"

exlabs · 10월 4, 2024, 2:33오후

@merefield 감사합니다!

도대체 어떻게 그렇게 빠르게 디버깅한 거예요?

Zendesk는 제거할게요… 간단하네요

merefield · 10월 4, 2024, 2:33오후

쓴 경험

글		댓글	조회수
Discourse AI - AI bot Site Management how-to , ai , ai-bot	49	19575	3월 1, 2026
Building a technical support chatbot Extras chat , ai	1	952	10월 4, 2024
ChatGPT Assistant Integration Product Support	5	1631	2월 11, 2024
[Ai Bot] Add user token tracking, custom AI personas, max context posts, document loading, custom API URLs, and localized chat titles Feature ai , ai-bot	1	772	3월 22, 2024
Advice on a support bot for a technical support forum (Discourse AI vs Discourse Chatbot) General ai , ai-bot	57	5247	4월 29, 2026

Discourse 챗봇 🤖

Related topics