Discourse AI 주제 요약 🤖

[merefield (Robert)]

	요약	원격 AI 언어 모델을 사용하여 주제의 요약을 작성하고 게시합니다.
	리포지토리 링크	GitHub - merefield/discourse-ai-topic-summary: Uses a remote AI language model to prepare and post a summary of a Topic · GitHub
	설치 가이드	Discourse에 플러그인 설치하는 방법
	후원	이 플러그인이 마땅히 받아야 할 유지보수를 받고 향후에도 여러분의 사이트에서 계속 작동할 수 있도록, 여러분 또는 조직의 자원과 필요에 맞는 수준으로 제 오픈소스 작업의 정기 후원자가 되어 주십시오.

이 플러그인을 즐기고 계신가요? GitHub에서 해 주세요!

기능

• AI 생성된 주제 요약:
  • 처음 생성되는 시점과 재생성을 위해 필요한 새 게시글 수를 선택할 수 있어 플러그인 비용 효율성을 높일 수 있습니다.
  • 주제 표시 위치를 상단 또는 사이드바(Bars 테마 컴포넌트 필요) 중 선택할 수 있습니다.
  • 커뮤니티가 품질이 낮은 요약을 하위 투표할 수 있는 투표 시스템. 투표가 임계값을 초과하면 새로운 요약을 요청합니다.
  • 주제 목록에 노출 - AI 요약을 사용할 수 있는 경우 발췌 대신 표시됩니다.
• 자동 태그 지정 시스템
  • 요약을 재사용하여 지능적으로 주제를 태그 지정합니다.
  • 사용 사례에 가장 잘 맞는 두 가지 전략 중 하나를 선택할 수 있습니다.
  • 주제를 묘사하는 주제 섬네일을 자동으로 생성합니다.
• 모든 프롬프트는 사용자 정의 → 텍스트에서 편집할 수 있습니다.
• 이 플러그인은 Discourse의 첫 번째 AI 플러그인입니다

(참고: 이는 일부 끔찍한 랜덤 개발 픽스처를 사용한 UI 미리보기일 뿐이며, 실제 데이터에서는 결과가 훨씬 더 좋습니다)

최소 게시글 수 이후, 주제가 대상 범주에 속하는 경우 플러그인은 주제 텍스트를 프롬프트와 함께 Open AI 대규모 언어 모델에 전송하고, 응답을 게시합니다. 이 응답은 내용 요약을 의도한 것이며, 꽤 잘 수행됩니다. 모델 선택이 가능합니다.

요약은 종종 놀라울 정도로 좋고, 때로는 훌륭합니다. 그러나 충분히 좋은 것이 아닐 때, 설정된 임계값 이후 품질이 낮은 요약을 새로고침하도록 강제하는 커뮤니티 하위 투표 메커니즘을 추가했습니다.

어떤 경우든, 추가 게시글이 설정된 수만큼 작성되면 요약을 다시 요청합니다.

프롬프트와 임계값을 수정할 수 있습니다.

중요한 참고: 요약은 익명 사용자에게 노출되지 않으므로 텍스트는 크롤링될 수 없습니다(이것이 좋은 일인지 나쁜 일인지는 여러분이 판단하시겠지만, 적어도 크롤러는 여러분의 진정한 인간 데이터에만 작동하게 됩니다).

자동 태그 지정 지원:

주제 태그 지정을 지루하게 느끼시나요? AI가 대신 해 주도록 하세요! (상당히 지능적으로!)

때로는 여기서 제시하는 지침에도 불구하고 AI가 너무 창의적이 될 수 있으므로, 기존 태그 집합으로 제한할 수 있습니다.

rails 콘솔을 사용하여 다음을 사용하여 비관리자 사용자를 빠르게 생성할 수 있습니다:

rake admin:create (이 사용자에게 관리자 권한을 부여하지 마세요)

(이는 현재 Discourse "내부 API"가 태그 지정 시 "새 태그 없음"을 지정할 수 없기 때문에, 현재 이 문제를 쉽게 방지하는 유일한 방법은 해당 권한(즉, min_trust_to_create_tag보다 낮은 신뢰 수준)이 없는 사용자로 생성하는 것입니다.)

주제 목록에서 발췌를 AI 요약으로 선택적으로 오버라이드

ai_topic_summary_expose_as_excerpt 설정을 활성화하면 발췌가 표시되는 주제 목록(예: Topic List Previews 또는 Topic List Excerpts와 같은 테마 컴포넌트를 통해)에서 사용 가능한 경우 AI 요약으로 발췌를 오버라이드합니다.

발췌 전환:

제 테마 컴포넌트 Topic List Previews (TLP) - #592 by merefield 에서 사용할 수 있습니다.

GitHub - merefield/discourse-tc-excerpts-toggle: A small Discourse theme component that adds a...

주제 주제를 묘사하는 선택적 이미지

이 플러그인에 선택적 섬네일 생성 기능을 추가했습니다.

요약을 이미지로 묘사하여 OP 상단에 자동으로 추가합니다.

• 플러그인 설정에서 활성화해야 합니다.
• 매번 마지막 상단 이미지를 자동으로 삭제하도록 선택할 수 있습니다.
• 플러그인 설정의 링크를 통해 프롬프트를 편집하여 스타일과 내용을 영향을 줄 수 있습니다(하지만 이는 이후 생성되는 모든 이미지에 적용됩니다).

즐기세요

제한 사항

토큰 제한으로 인해 현재 약 160개의 게시글까지만 적합합니다(모델에 따라 다름!), 따라서 특정 시점 이후의 게시글 자료는 포함되지 않습니다. 모델이 더 강력해지고 서비스가 더 정교해짐에 따라 이는 향후 거의 확실하게 변경될 것입니다.

속도 제한 및 비용

Open AI에서 데이터를 가져오는 것은 무료가 아닙니다. 그러나 속도 제한은 게시글에 기반하여 암묵적으로 설정됩니다. 새로운 요약을 요청하기 전에 필요한 게시글 수를 제어할 수 있습니다. 이는 문제가 되지 않을 가능성이 높습니다.

사이드 “Bars” 지원!!

이제 플러그인과 함께 제공되는 Bars 호환 위젯이 있습니다. Bars 테마 컴포넌트를 설치하고 구성하기만 하면 됩니다:

설치 후 표준 주제 상단 요약을 끄고 사이드바의 위젯에 의존할 수 있습니다.

참고

면책 조항: LLM이 응답하는 내용에 대해 저는 책임을 지지 않습니다. LLM의 장단점, LLM이 할 수 있고 없는 것, 그리고 그 한계를 이해해 주십시오. LLM은 설득력 있고 문맥에 맞는 텍스트를 생성하는 데 매우 뛰어나지만 사실적으로 틀릴 수 있습니다.

중요한 개인정보 보호 참고: 여러분의 포럼 데이터가 Open AI로 전송됩니다. 사전 학습 모델에 통합되지 않을 가능성이 거의 확실하지만, 그들은 데이터를 분석 및 로깅에 사용할 것입니다. 이 사실을 포럼의 약관 및 개인정보 보호 성명에 반드시 추가하십시오. 관련 링크: 이용약관, 개인정보 처리방침

저작권: Open AI는 저작권에 대해 여기서 성명을 발표했습니다: API로 생성한 출력물에 대해 OpenAI가 저작권을 주장합니까? | OpenAI 도움말 센터

할 일

• 프론트 및 백 테스트 추가
• 응답 스타일에 영향을 미치는 사용자 구성 추가
• 사용자 정의 모델 이름 지원 추가
• 사용 가능할 때 GPT-4 지원 추가
• 모델 설정을 드롭다운 목록으로 변경
• Layouts 플러그인을 위한 위젯 지원 추가

[Noah]

결국 이렇게 될 날이 오리라 생각했어요!

하지만 제 가장 큰 질문은 이게 우리에게 얼마나 비쌀 수 있느냐는 겁니다.

[merefield (Robert)]

몇몇 포럼 중 하나에서 며칠 동안 실행 중입니다. 거의 모든 공개 카테고리에 활성화되어 있습니다.

포럼의 활성도가 어떻게 되는지 모르기 때문에 명확하게 답하기가 어렵습니다.

제 제안은 하나의 카테고리에 적용해 보고 결과를 확인해 보는 것입니다.

괜찮은 대시보드가 있습니다.

GPT3(가장 비싼 모델) 기반의 플러그인 두 개를 개발하고 지난달 말 한 사이트에서 운영을 시작한 결과, 2월의 현황은 다음과 같습니다:

따라서 이메일 비용보다 적을 가능성이 높습니다.

[satonotdead]

오, 우리 사전 주제에 추가하기 좋은 것 같아요.

스페인어로도 작동할까요?

[merefield (Robert)]

잘 모르겠어요. 설정에서 프롬프트를 변경해야 할 수도 있습니다. 하지만 한번 시도해 보세요!

(이것은 로컬라이즈된 문자열이어야 합니다. 곧 수정할게요)

[ChrisBeach (Chris)]

고맙습니다 @merefield - 정말 멋진 플러그인인 것 같습니다!

활성화하고 API 키를 입력했으며 카테고리 등도 설정했지만, 아직 요약이 표시되지 않습니다. Discourse 포럼에서 진행 상황을 모니터링할 수 있는 방법이 있을까요? 로그나 Sidekiq에서도 아무것도 보이지 않습니다(솔직히 아직 자세히 살펴본 것은 아닙니다).

[merefield (Robert)]

크리스, 새 게시글에 반응합니다. 기준값과 카테고리 위치 조건을 충족하면 요약이 생성됩니다.

[ChrisBeach (Chris)]

네, 확인했습니다. 설명해 주셔서 감사합니다 @merefield

[JamesPick]

안녕하세요,

이 요약 플러그인을 활성화하면 재구축이 실패합니다. 제 기본 설정 문제인지, 아니면 플러그인 간 충돌 때문인지 알 수 없습니다. 도움이 될 수 있도록 일부 세부 정보를 첨부합니다.

ai-topic-summary 플러그인을 주석 처리하면 문제가 해결되고 빌드가 성공적으로 수행됩니다.

도움 주시면 감사하겠습니다.

I, [2023-03-12T17:24:25.390052 #1]  INFO -- : > cd /var/www/discourse && su discourse -c 'LOAD_PLUGINS=0 bundle exec rake plugin:pull_compatible_all'
I, [2023-03-12T17:24:31.668769 #1]  INFO -- : discourse-ai-topic-summary is already at latest compatible version
discourse-assign is already at latest compatible version
discourse-chat-integration is already at latest compatible version
discourse-chatbot is already at latest compatible version
discourse-checklist is already at latest compatible version
discourse-solved is already at latest compatible version
docker_manager is already at latest compatible version

I, [2023-03-12T17:24:31.677801 #1]  INFO -- : > cd /var/www/discourse && su discourse -c 'bundle exec rake db:migrate'
rake aborted!
Gem::LoadError: can't activate ruby-openai-3.4.0, already activated ruby-openai-3.3.0
/var/www/discourse/lib/plugin_gem.rb:26:in `load'
/var/www/discourse/lib/plugin/instance.rb:796:in `gem'
/var/www/discourse/plugins/discourse-chatbot/plugin.rb:9:in `activate!'
/var/www/discourse/lib/plugin/instance.rb:693:in `instance_eval'
/var/www/discourse/lib/plugin/instance.rb:693:in `activate!'
/var/www/discourse/lib/discourse.rb:352:in `block in activate_plugins!'
/var/www/discourse/lib/discourse.rb:349:in `each'
/var/www/discourse/lib/discourse.rb:349:in `activate_plugins!'
/var/www/discourse/config/application.rb:216:in `block in <class:Application>'
/var/www/discourse/lib/plugin.rb:6:in `initialization_guard'
/var/www/discourse/config/application.rb:216:in `<class:Application>'
/var/www/discourse/config/application.rb:75:in `<module:Discourse>'
/var/www/discourse/config/application.rb:74:in `<top (required)>'
/var/www/discourse/Rakefile:7:in `require'
/var/www/discourse/Rakefile:7:in `<top (required)>'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rake-13.0.6/exe/rake:27:in `<top (required)>'
/usr/local/bin/bundle:25:in `load'
/usr/local/bin/bundle:25:in `<main>'
(See full trace by running task with --trace)
I, [2023-03-12T17:24:38.020166 #1]  INFO -- : gem install httparty -v 0.21.0 -i /var/www/discourse/plugins/discourse-ai-topic-summary/gems/3.2.1 --no-document --ignore-dependencies --no-user-install
When you HTTParty, you must party hard!
Successfully installed httparty-0.21.0
1 gem installed
gem install ruby-openai -v 3.3.0 -i /var/www/discourse/plugins/discourse-ai-topic-summary/gems/3.2.1 --no-document --ignore-dependencies --no-user-install
Note if upgrading: The `::Ruby::OpenAI` module has been removed and all classes have been moved under the top level `::OpenAI` module. To upgrade, change `require 'ruby/openai'` to `require 'openai'` and change all references to `Ruby::OpenAI` to `OpenAI`.
Successfully installed ruby-openai-3.3.0
1 gem installed
gem install httparty -v 0.21.0 -i /var/www/discourse/plugins/discourse-chatbot/gems/3.2.1 --no-document --ignore-dependencies --no-user-install
When you HTTParty, you must party hard!
Successfully installed httparty-0.21.0
1 gem installed
gem install ruby-openai -v 3.4.0 -i /var/www/discourse/plugins/discourse-chatbot/gems/3.2.1 --no-document --ignore-dependencies --no-user-install
Note if upgrading: The `::Ruby::OpenAI` module has been removed and all classes have been moved under the top level `::OpenAI` module. To upgrade, change `require 'ruby/openai'` to `require 'openai'` and change all references to `Ruby::OpenAI` to `OpenAI`.
Successfully installed ruby-openai-3.4.0
1 gem installed

I, [2023-03-12T17:24:38.021523 #1]  INFO -- : Terminating async processes
I, [2023-03-12T17:24:38.022106 #1]  INFO -- : Sending INT to HOME=/var/lib/postgresql USER=postgres exec chpst -u postgres:postgres:ssl-cert -U postgres:postgres:ssl-cert /usr/lib/postgresql/13/bin/postmaster -D /etc/postgresql/13/main pid: 41
2023-03-12 17:24:38.022 UTC [41] LOG:  received fast shutdown request
I, [2023-03-12T17:24:38.022874 #1]  INFO -- : Sending TERM to exec chpst -u redis -U redis /usr/bin/redis-server /etc/redis/redis.conf pid: 102
102:signal-handler (1678641878) Received SIGTERM scheduling shutdown...
2023-03-12 17:24:38.035 UTC [41] LOG:  aborting any active transactions
2023-03-12 17:24:38.046 UTC [41] LOG:  background worker "logical replication launcher" (PID 50) exited with exit code 1
2023-03-12 17:24:38.049 UTC [45] LOG:  shutting down
102:M 12 Mar 2023 17:24:38.053 # User requested shutdown...
102:M 12 Mar 2023 17:24:38.054 * Saving the final RDB snapshot before exiting.
102:M 12 Mar 2023 17:24:38.120 * DB saved on disk
102:M 12 Mar 2023 17:24:38.122 # Redis is now ready to exit, bye bye...
2023-03-12 17:24:38.153 UTC [41] LOG:  database system is shut down


FAILED
--------------------
Pups::ExecError: cd /var/www/discourse && su discourse -c 'bundle exec rake db:migrate' failed with return #<Process::Status: pid 1043 exit 1>
Location of failure: /usr/local/lib/ruby/gems/3.2.0/gems/pups-1.1.1/lib/pups/exec_command.rb:117:in `spawn'
exec failed with the params {"cd"=>"$home", "hook"=>"db_migrate", "cmd"=>["su discourse -c 'bundle exec rake db:migrate'"]}
bootstrap failed with exit code 1

[merefield (Robert)]

아, 실수했어요. 제 AI 플러그인 두 개 사이에 충돌이 생긴 거예요. 해결해서 되돌릴게요! 죄송합니다!

[merefield (Robert)]

이것을 시도해 보세요: FIX: conflict with chatbot · merefield/discourse-ai-topic-summary@0067eaf · GitHub

[JamesPick]

빠르게 답변해 주셔서 정말 감사합니다. 내일 시도해 보겠습니다. 이 플러그인이 실제로 작동하는 모습을 기대하고 있습니다!

[JamesPick]

간단한 업데이트입니다. 처음으로 실제 요약이 트리거되었고 꽤 그럴듯하게 작동했습니다. @merefield 이 플러그인을 완벽하게 잘 만들었다고 생각합니다 사실 이렇게 ChatGPT를 활용하는 방식이 단순히 토론 스레드에 추가하는 것보다 훨씬 더 큰 미래 잠재력이 있다고 봅니다.

아래는 생성된 요약입니다. 토픽 상단에 배치되어 다른 사람들이 읽도록 (또는 읽지 않도록) 잘 유도하고 있습니다.

요약을 트리거할 업데이트를 게시할 때 오류(에러 500)가 발생했습니다. 설정에서 gpt-3.5-turbo를 사용하려고 시도했기 때문이었습니다. ChatGPT API 오류가 발생하는 경우, 사용자가 무엇을 해야 할지 모르는 500 에러를 받는 것보다는 게시물을 제출할 수 있도록 하는 것이 더 나을 것 같습니다.

로그에서는 제가 무엇을 잘못했는지 명확하게 확인할 수 있었습니다.

StandardError (This is a chat model and not supported in the v1/completions endpoint. Did you mean to use v1/chat/completions?)

가능한 발전 방향:

• 요약이 관련성이 없거나 적절하지 않은 경우 토픽 소유자/관리자가 요약을 삭제할 수 있도록 허용?
• 카테고리/전체적으로 모든 요약을 볼 수 있는 페이지를 마련?

그 외에는 이 기능이 어떻게 발전해 나갈지 기대됩니다. 지금까지 해준 것에 대해 감사드립니다. 제 사이트는 사용자 수가 적어 매우 작지만 그 잠재력을 확실히 보고 있습니다.

[merefield (Robert)]

좋은 피드백 주셔서 감사합니다. 정말 좋은 아이디어들이네요.

@JamesPick

관련성이 없거나 적절하지 않은 경우, 주제 소유자/관리자가 요약 내용을 삭제할 수 있도록 허용할까요?

네, 관리자/작성자용 버튼을 추가하는 것도 꽤 좋을 것 같습니다. 로드맵에 추가하겠습니다.

@JamesPick

아마도 특정 카테고리나 전체의 모든 요약을 볼 수 있는 페이지가 필요할 것 같습니다.

좋네요!

"요약을 볼 수 있는 곳"이라는 목록이 실제로는 주제 목록의 대안적인 발췌문(excerpt) 형태가 될 수 있을지 궁금합니다.

로드맵에 추가하겠습니다.

@JamesPick

요약 생성을 트리거할 업데이트를 게시할 때 오류(에러 500)가 발생했습니다. 설정에서 gpt-3.5-turbo를 사용하려고 시도했기 때문이었습니다.

네, 채팅봇에서 그랬던 것처럼 드롭다운 메뉴로 변경해야 할 것 같습니다. 그래도 잘 시도해 주셨네요

참고로 GPT-4가 곧 출시될 예정인데, 이는 요약 품질을 크게 향상시키고 훨씬 더 긴 주제도 처리할 수 있게 해 줄 것입니다.

[hoangphuctran93 (Hoàng Phúc Trần)]

플러그인이 현재 ChatGPT 4와 POE 애플리케이션(Quora에서 개발한 AI 채팅 플랫폼)의 API를 지원하는지 알려 주실 수 있나요?

[merefield (Robert)]

@hoangphuctran93

ChatGPT 4

ㅋㅋ, 기회 좀 주세요! afaia(제 기억이 맞다면) 어제 발표된 거 아닌가요?

아직까지 API 접근 권한을 받은 개발자는 극소수입니다. 대기 목록도 있고요. 그래서 플러그인 사용자들은 어차피 연결할 가능성이 낮습니다.

(참고로, 주제 제목을 보셨나요?)

@hoangphuctran93

POE 애플리케이션(AI 채팅 플랫폼, Quora 개발)의 API?

아니요, 그리고 현재로서는 그런 계획도 없습니다. 그걸 쓰는 게 무슨 이점이 있나요? 요약 기능이 특히 뛰어나기로 유명하나요?

[hoangphuctran93 (Hoàng Phúc Trần)]

@merefield

ㅋㅋ, 기회 좀 줘! afaia(약속대로라면) 어제 발표된 거 아니었어?

^^
불분명하게 말해서 미안해 ^^ 그냥 나중에 이걸 통합할 의향이 있는지 궁금해서 물어본 거야. GPT 04 관련 뉴스를 주시하고 있는데, 우리 베트남 커뮤니티 입장에서는 정말 놀랍고 특별한 일이야

[merefield (Robert)]

관심 가져주셔서 감사합니다. GPT-4 지원에 대해 이렇게 답변드리겠습니다:

아마도 먼저 Chatbot에 추가할 것 같지만, 곧바로 AI Topic Summary에도 적용할 예정입니다.

OpenAI에서 오는 이메일을 기다리는 중입니다 … (그리고 약간의 여가 시간도요!)

[merefield (Robert)]

@JamesPick

주제 소유자/관리자가 관련성이 없거나 적절하지 않을 경우 요약문을 삭제할 수 있도록 허용할까요?

사실, UI가 복잡해지지 않도록 이 문제를 좀 더 단순하게 해결할 방법을 생각했습니다:

관리자(Admin)와 작성자(Author)에게 “투표 가중치(vote weight)” 설정을 추가하는 것은 어떨까요?

예를 들어, 작성자의 투표 가중치를 3으로 설정하고 임계값(threshold)이 3이라면, 새로운 요약문이 생성됩니다.

두 가지 해결책(버튼 추가 또는 임계값과 일치하는 가중치 설정)의 단점은 작성자가 새로운 요약문을 생성하기 위해 스팸을 남발할 수 있다는 점이며, 이는 API 호출 비용이 많이 듭니다.

따라서 저는 작성자의 투표 가중치를 임계값보다 약간 낮게(하지만 일반 사용자보다 높게) 설정하고, 관리자는 임계값에 맞추는 것을 제안합니다.

이렇게 하면 UI를 변경할 필요가 없으며, 이를 백엔드 로직과 설정에 통합하기만 하면 됩니다.

관리자의 반대 투표(downvote)는 항상 새로운 요약문을 생성하고 카운트를 초기화합니다.

@JamesPick 님, 의견 주시겠어요?

[JamesPick]

새 요약의 스팸에 대한 우려에 동의합니다.
AI가 나쁜 요약을 생성하는 문제보다는, 해당 주제가 좋은 요약을 생성하기에 적합하지 않은 문제라고 생각합니다. 아마도 주제가 초점을 잃었거나 채팅으로 변질되어, ChatGPT로 전송되는 내용에서 핵심 게시물이 유실되는 것 같습니다.

결국 관리자나 주제 소유자가 해당 주제를 위한 의미 있는 요약이 생성되지 않음을 명확히 인지할 경우, 요약을 취소할 수 있습니다.

시간이 지나면, API로 전송할 요약을 위해 특정 게시물을 선택할 수 있는 기능이 추가될 수 있을 것입니다.

이 스레드와 같은 경우를 위해 이런 기능을 고려해 보았습니다. 첫 번째 게시물을 플래그를 지정하여 항상 요약에 포함되도록 하고, 요약에 가장 적합한 몇 개의 게시물을 추가로 선택할 수 있도록 하는 것입니다.

주제가 단 하나의 게시물만 있어도 요약을 생성할 수 있는 ‘요약 생성’ 옵션을 제공할 수도 있습니다. 이는 이전 댓글과 잘 맞습니다.

@merefield

“요약을 볼 수 있는 곳” 목록이 실제로는 주제 목록의 대안적인 발췌문인지 궁금합니다.