Discourse AI 주제 요약 🤖

[merefield (Robert)]

	요약	원격 AI 언어 모델을 사용하여 주제의 요약을 작성하고 게시합니다.
	리포지토리 링크	GitHub - merefield/discourse-ai-topic-summary: Uses a remote AI language model to prepare and post a summary of a Topic · GitHub
	설치 가이드	Discourse에 플러그인 설치하는 방법
	후원	이 플러그인이 마땅히 받아야 할 유지보수를 받고 향후에도 여러분의 사이트에서 계속 작동할 수 있도록, 여러분 또는 조직의 자원과 필요에 맞는 수준으로 제 오픈소스 작업의 정기 후원자가 되어 주십시오.

이 플러그인을 즐기고 계신가요? GitHub에서 해 주세요!

기능

• AI 생성된 주제 요약:
  • 처음 생성되는 시점과 재생성을 위해 필요한 새 게시글 수를 선택할 수 있어 플러그인 비용 효율성을 높일 수 있습니다.
  • 주제 표시 위치를 상단 또는 사이드바(Bars 테마 컴포넌트 필요) 중 선택할 수 있습니다.
  • 커뮤니티가 품질이 낮은 요약을 하위 투표할 수 있는 투표 시스템. 투표가 임계값을 초과하면 새로운 요약을 요청합니다.
  • 주제 목록에 노출 - AI 요약을 사용할 수 있는 경우 발췌 대신 표시됩니다.
• 자동 태그 지정 시스템
  • 요약을 재사용하여 지능적으로 주제를 태그 지정합니다.
  • 사용 사례에 가장 잘 맞는 두 가지 전략 중 하나를 선택할 수 있습니다.
  • 주제를 묘사하는 주제 섬네일을 자동으로 생성합니다.
• 모든 프롬프트는 사용자 정의 → 텍스트에서 편집할 수 있습니다.
• 이 플러그인은 Discourse의 첫 번째 AI 플러그인입니다

(참고: 이는 일부 끔찍한 랜덤 개발 픽스처를 사용한 UI 미리보기일 뿐이며, 실제 데이터에서는 결과가 훨씬 더 좋습니다)

최소 게시글 수 이후, 주제가 대상 범주에 속하는 경우 플러그인은 주제 텍스트를 프롬프트와 함께 Open AI 대규모 언어 모델에 전송하고, 응답을 게시합니다. 이 응답은 내용 요약을 의도한 것이며, 꽤 잘 수행됩니다. 모델 선택이 가능합니다.

요약은 종종 놀라울 정도로 좋고, 때로는 훌륭합니다. 그러나 충분히 좋은 것이 아닐 때, 설정된 임계값 이후 품질이 낮은 요약을 새로고침하도록 강제하는 커뮤니티 하위 투표 메커니즘을 추가했습니다.

어떤 경우든, 추가 게시글이 설정된 수만큼 작성되면 요약을 다시 요청합니다.

프롬프트와 임계값을 수정할 수 있습니다.

중요한 참고: 요약은 익명 사용자에게 노출되지 않으므로 텍스트는 크롤링될 수 없습니다(이것이 좋은 일인지 나쁜 일인지는 여러분이 판단하시겠지만, 적어도 크롤러는 여러분의 진정한 인간 데이터에만 작동하게 됩니다).

자동 태그 지정 지원:

주제 태그 지정을 지루하게 느끼시나요? AI가 대신 해 주도록 하세요! (상당히 지능적으로!)

때로는 여기서 제시하는 지침에도 불구하고 AI가 너무 창의적이 될 수 있으므로, 기존 태그 집합으로 제한할 수 있습니다.

rails 콘솔을 사용하여 다음을 사용하여 비관리자 사용자를 빠르게 생성할 수 있습니다:

rake admin:create (이 사용자에게 관리자 권한을 부여하지 마세요)

(이는 현재 Discourse "내부 API"가 태그 지정 시 "새 태그 없음"을 지정할 수 없기 때문에, 현재 이 문제를 쉽게 방지하는 유일한 방법은 해당 권한(즉, min_trust_to_create_tag보다 낮은 신뢰 수준)이 없는 사용자로 생성하는 것입니다.)

주제 목록에서 발췌를 AI 요약으로 선택적으로 오버라이드

ai_topic_summary_expose_as_excerpt 설정을 활성화하면 발췌가 표시되는 주제 목록(예: Topic List Previews 또는 Topic List Excerpts와 같은 테마 컴포넌트를 통해)에서 사용 가능한 경우 AI 요약으로 발췌를 오버라이드합니다.

발췌 전환:

제 테마 컴포넌트 Topic List Previews (TLP) - #592 by merefield 에서 사용할 수 있습니다.

GitHub - merefield/discourse-tc-excerpts-toggle: A small Discourse theme component that adds a...

주제 주제를 묘사하는 선택적 이미지

이 플러그인에 선택적 섬네일 생성 기능을 추가했습니다.

요약을 이미지로 묘사하여 OP 상단에 자동으로 추가합니다.

• 플러그인 설정에서 활성화해야 합니다.
• 매번 마지막 상단 이미지를 자동으로 삭제하도록 선택할 수 있습니다.
• 플러그인 설정의 링크를 통해 프롬프트를 편집하여 스타일과 내용을 영향을 줄 수 있습니다(하지만 이는 이후 생성되는 모든 이미지에 적용됩니다).

즐기세요

제한 사항

토큰 제한으로 인해 현재 약 160개의 게시글까지만 적합합니다(모델에 따라 다름!), 따라서 특정 시점 이후의 게시글 자료는 포함되지 않습니다. 모델이 더 강력해지고 서비스가 더 정교해짐에 따라 이는 향후 거의 확실하게 변경될 것입니다.

속도 제한 및 비용

Open AI에서 데이터를 가져오는 것은 무료가 아닙니다. 그러나 속도 제한은 게시글에 기반하여 암묵적으로 설정됩니다. 새로운 요약을 요청하기 전에 필요한 게시글 수를 제어할 수 있습니다. 이는 문제가 되지 않을 가능성이 높습니다.

사이드 “Bars” 지원!!

이제 플러그인과 함께 제공되는 Bars 호환 위젯이 있습니다. Bars 테마 컴포넌트를 설치하고 구성하기만 하면 됩니다:

설치 후 표준 주제 상단 요약을 끄고 사이드바의 위젯에 의존할 수 있습니다.

참고

면책 조항: LLM이 응답하는 내용에 대해 저는 책임을 지지 않습니다. LLM의 장단점, LLM이 할 수 있고 없는 것, 그리고 그 한계를 이해해 주십시오. LLM은 설득력 있고 문맥에 맞는 텍스트를 생성하는 데 매우 뛰어나지만 사실적으로 틀릴 수 있습니다.

중요한 개인정보 보호 참고: 여러분의 포럼 데이터가 Open AI로 전송됩니다. 사전 학습 모델에 통합되지 않을 가능성이 거의 확실하지만, 그들은 데이터를 분석 및 로깅에 사용할 것입니다. 이 사실을 포럼의 약관 및 개인정보 보호 성명에 반드시 추가하십시오. 관련 링크: 이용약관, 개인정보 처리방침

저작권: Open AI는 저작권에 대해 여기서 성명을 발표했습니다: API로 생성한 출력물에 대해 OpenAI가 저작권을 주장합니까? | OpenAI 도움말 센터

할 일

• 프론트 및 백 테스트 추가
• 응답 스타일에 영향을 미치는 사용자 구성 추가
• 사용자 정의 모델 이름 지원 추가
• 사용 가능할 때 GPT-4 지원 추가
• 모델 설정을 드롭다운 목록으로 변경
• Layouts 플러그인을 위한 위젯 지원 추가

[Noah]

This was just a matter of time until we got this!

But my primary question is how expensive can this get for us?

[merefield (Robert)]

It’s been live on one of my forums for a few days now. It’s active on nearly all public categories.

It’s hard to answer because I don’t know how active your forum is.

My suggestion is give it a go in one Category and see how you get on.

There’s a decent dashboard.

After developing two plugins based on GPT3 (the most expensive model) and going live on one site late last month, mine looks like this for Feb:

So probably less than your email costs.

[satonotdead]

Oh, that could be good to grow our glossary topics.

It should work in Spanish?

[merefield (Robert)]

I have no idea, you might need to change the prompt in settings. But give it a go!

(this should be a localised string, I’ll change that soon)

[ChrisBeach (Chris)]

Thanks @merefield - this looks like a great plugin!

I’ve enabled it and entered my API key, enabled categories etc, but haven’t seen any summaries yet. Is there some way I can monitor its progress on my Discourse forum? Can’t see anything in logs or sidekiq (although admittedly haven’t had a deep look yet)

[merefield (Robert)]

Hey Chris, it reacts to new Posts. If they are within the thresholds and fits the Category location criteria, it will create a summary.

[ChrisBeach (Chris)]

I see, thanks for clarifying @merefield

[JamesPick]

Hi,

My rebuild fails when I enable this summary plugin. I don’t know if this is something to do with my underlying setup or conflicting plugins. I attach some details in case it is helpful.

Commenting out the ai-topic-summary plugin resolves the issue and the build is successful.

Many thanks for any guidance.

I, [2023-03-12T17:24:25.390052 #1]  INFO -- : > cd /var/www/discourse && su discourse -c 'LOAD_PLUGINS=0 bundle exec rake plugin:pull_compatible_all'
I, [2023-03-12T17:24:31.668769 #1]  INFO -- : discourse-ai-topic-summary is already at latest compatible version
discourse-assign is already at latest compatible version
discourse-chat-integration is already at latest compatible version
discourse-chatbot is already at latest compatible version
discourse-checklist is already at latest compatible version
discourse-solved is already at latest compatible version
docker_manager is already at latest compatible version

I, [2023-03-12T17:24:31.677801 #1]  INFO -- : > cd /var/www/discourse && su discourse -c 'bundle exec rake db:migrate'
rake aborted!
Gem::LoadError: can't activate ruby-openai-3.4.0, already activated ruby-openai-3.3.0
/var/www/discourse/lib/plugin_gem.rb:26:in `load'
/var/www/discourse/lib/plugin/instance.rb:796:in `gem'
/var/www/discourse/plugins/discourse-chatbot/plugin.rb:9:in `activate!'
/var/www/discourse/lib/plugin/instance.rb:693:in `instance_eval'
/var/www/discourse/lib/plugin/instance.rb:693:in `activate!'
/var/www/discourse/lib/discourse.rb:352:in `block in activate_plugins!'
/var/www/discourse/lib/discourse.rb:349:in `each'
/var/www/discourse/lib/discourse.rb:349:in `activate_plugins!'
/var/www/discourse/config/application.rb:216:in `block in <class:Application>'
/var/www/discourse/lib/plugin.rb:6:in `initialization_guard'
/var/www/discourse/config/application.rb:216:in `<class:Application>'
/var/www/discourse/config/application.rb:75:in `<module:Discourse>'
/var/www/discourse/config/application.rb:74:in `<top (required)>'
/var/www/discourse/Rakefile:7:in `require'
/var/www/discourse/Rakefile:7:in `<top (required)>'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rake-13.0.6/exe/rake:27:in `<top (required)>'
/usr/local/bin/bundle:25:in `load'
/usr/local/bin/bundle:25:in `<main>'
(See full trace by running task with --trace)
I, [2023-03-12T17:24:38.020166 #1]  INFO -- : gem install httparty -v 0.21.0 -i /var/www/discourse/plugins/discourse-ai-topic-summary/gems/3.2.1 --no-document --ignore-dependencies --no-user-install
When you HTTParty, you must party hard!
Successfully installed httparty-0.21.0
1 gem installed
gem install ruby-openai -v 3.3.0 -i /var/www/discourse/plugins/discourse-ai-topic-summary/gems/3.2.1 --no-document --ignore-dependencies --no-user-install
Note if upgrading: The `::Ruby::OpenAI` module has been removed and all classes have been moved under the top level `::OpenAI` module. To upgrade, change `require 'ruby/openai'` to `require 'openai'` and change all references to `Ruby::OpenAI` to `OpenAI`.
Successfully installed ruby-openai-3.3.0
1 gem installed
gem install httparty -v 0.21.0 -i /var/www/discourse/plugins/discourse-chatbot/gems/3.2.1 --no-document --ignore-dependencies --no-user-install
When you HTTParty, you must party hard!
Successfully installed httparty-0.21.0
1 gem installed
gem install ruby-openai -v 3.4.0 -i /var/www/discourse/plugins/discourse-chatbot/gems/3.2.1 --no-document --ignore-dependencies --no-user-install
Note if upgrading: The `::Ruby::OpenAI` module has been removed and all classes have been moved under the top level `::OpenAI` module. To upgrade, change `require 'ruby/openai'` to `require 'openai'` and change all references to `Ruby::OpenAI` to `OpenAI`.
Successfully installed ruby-openai-3.4.0
1 gem installed

I, [2023-03-12T17:24:38.021523 #1]  INFO -- : Terminating async processes
I, [2023-03-12T17:24:38.022106 #1]  INFO -- : Sending INT to HOME=/var/lib/postgresql USER=postgres exec chpst -u postgres:postgres:ssl-cert -U postgres:postgres:ssl-cert /usr/lib/postgresql/13/bin/postmaster -D /etc/postgresql/13/main pid: 41
2023-03-12 17:24:38.022 UTC [41] LOG:  received fast shutdown request
I, [2023-03-12T17:24:38.022874 #1]  INFO -- : Sending TERM to exec chpst -u redis -U redis /usr/bin/redis-server /etc/redis/redis.conf pid: 102
102:signal-handler (1678641878) Received SIGTERM scheduling shutdown...
2023-03-12 17:24:38.035 UTC [41] LOG:  aborting any active transactions
2023-03-12 17:24:38.046 UTC [41] LOG:  background worker "logical replication launcher" (PID 50) exited with exit code 1
2023-03-12 17:24:38.049 UTC [45] LOG:  shutting down
102:M 12 Mar 2023 17:24:38.053 # User requested shutdown...
102:M 12 Mar 2023 17:24:38.054 * Saving the final RDB snapshot before exiting.
102:M 12 Mar 2023 17:24:38.120 * DB saved on disk
102:M 12 Mar 2023 17:24:38.122 # Redis is now ready to exit, bye bye...
2023-03-12 17:24:38.153 UTC [41] LOG:  database system is shut down


FAILED
--------------------
Pups::ExecError: cd /var/www/discourse && su discourse -c 'bundle exec rake db:migrate' failed with return #<Process::Status: pid 1043 exit 1>
Location of failure: /usr/local/lib/ruby/gems/3.2.0/gems/pups-1.1.1/lib/pups/exec_command.rb:117:in `spawn'
exec failed with the params {"cd"=>"$home", "hook"=>"db_migrate", "cmd"=>["su discourse -c 'bundle exec rake db:migrate'"]}
bootstrap failed with exit code 1

[merefield (Robert)]

Oops my bad. It’s a conflict between my two AI plugins. Will resolve and revert! Apologies!

[merefield (Robert)]

Try that: FIX: conflict with chatbot · merefield/discourse-ai-topic-summary@0067eaf · GitHub

[JamesPick]

Many thanks for getting back so quickly. I will try this tomorrow. I’m looking forward to seeing this plugin in action!

[JamesPick]

Quick update I had my first real summary triggered and it did a pretty reasonable job. @merefield I think you’ve nailed this plugin :-). I think in fact putting chatgpt to work like this has far better future potential than just adding into a discussion thread.

Here’s the summary that was generated which placed at the top of the topic does a great job at encouraging others to read - or not.

I did get an error (error 500) on posting an update that would have triggered the summary. This was because I’d tried to use gpt-3.5-turbo in settings. Perhaps if there is a chatgpt api error it would be better to allow the post submission rather than the user getting a 500 error they don’t know what to do with.

In the logs it was clear what I’d done wrong

StandardError (This is a chat model and not supported in the v1/completions endpoint. Did you mean to use v1/chat/completions?)

Potential evolutions:

• Allow topic owner / admin to remove summary if it isn’t relevant / appropriate?
• Perhaps a place to go to view all summaries in a category / overall

Other than that I look forward to seeing how this evolves. Many thanks for what you’ve done so far. My site is very small with only a few users but I can really see it’s potential.

[merefield (Robert)]

Great feedback thanks. Those are nice ideas.

@JamesPick

Allow topic owner / admin to remove summary if it isn’t relevant / appropriate?

Yeah an admin/author button might be quite nice. I’ll add to roadmap.

@JamesPick

Perhaps a place to go to view all summaries in a category / overall

Nice!

I wonder if “the place to see the summaries” list is actually an alternative excerpt on the topic list?

I’ll add to roadmap.

@JamesPick

I did get an error (error 500) on posting an update that would have triggered the summary. This was because I’d tried to use gpt-3.5-turbo in settings.

Yeah I should convert this to a drop-down like I did with Chatbot. Good try though

GPT-4 is coming btw which will vastly improve the summaries and cope with much longer Topics.

[hoangphuctran93 (Hoàng Phúc Trần)]

Can you tell me if the plugin currently supports ChatGPT 4 and the API of the POE application (AI chat platform developed by Quora)?

[merefield (Robert)]

@hoangphuctran93

ChatGPT 4

Lol, give me a chance! afaia it was only announced yesterday?

Very few developers have been given access to the API so far. There is a waiting list. So users of the plugin are unlikely to be able to connect in any case.

(Did you notice the Topic title btw?)

@hoangphuctran93

the API of the POE application (AI chat platform developed by Quora)?

No and no plans to at present. What would be the benefit? Is it known to excel at summarisation?

[hoangphuctran93 (Hoàng Phúc Trần)]

@merefield

Lol, give me a chance! afaia it was only announced yesterday?

^^
sorry for being unclear ^^ i just wanted to know if you are interested about integrating them in the future? I’m following the news around GPT 04 and it’s surprising and special to us Vietnamese community

[merefield (Robert)]

Thanks for you interest. As far as GPT-4 support is concerned, let me respond this way:

I will probably be adding it to Chatbot first, but will surely get around to AI Topic Summary soon after.

I’m waiting for the email from Open AI … (and then a little spare time!)

[merefield (Robert)]

@JamesPick

Allow topic owner / admin to remove summary if it isn’t relevant / appropriate?

Actually, I’ve thought of a slightly simpler solution to this so we don’t have to crowd the UI:

How about we just give settings for “vote weight” for Admin and Author?

So you can set the Author voting weight to 3 and if the threshold is 3 that results in a new summary being generated.

The downside of both solutions (button, or weighting that matches the threshold) is that the Author could just spam for new summaries, costing you a lot in API calls.

So I suggest you make the authors vote carry a weight just below the threshold (but more than a regular user) and the admin at threshold?

Then we don’t have to change the UI and just bake this into the back-end logic and settings.

Admin downvotes will always create a new summary and reset the count.

Thoughts @JamesPick ?

[JamesPick]

I agree with your concern about spamming of new summaries.
I think it’s less about the ai providing a bad summary and more that the topic is not conducive to a good summary. Perhaps the topic lost it’s focus or became more a chat and the key posts get lost from what is sent to chatgpt.

Ultimately when admin / topic owner clearly sees that the summary is not going to produce anything of meaning for the topic they are able to cancel it.

I suppose in time the features could be added to select the specific posts that could be chosen to send to api for summary.

I was thinking of this for something like this thread. You could flag your first post to be the one that always gets included in a summary? And then perhaps add a few more that most suit a summary.

You could even have a ‘generate summary’ option where even when a topic only has one post a summary can be generated. This fits well with your earlier comment

@merefield

I wonder if “the place to see the summaries” list is actually an alternative excerpt on the topic list?