Discourse AI 주제 요약 🤖

[acorrea]

저희 팀은 Discourse 호스팅 서비스를 사용하여 Discourse 포럼을 운영하고 있습니다. 현재 “business” 플랜을 구독 중인데, “Discourse AI Topic Summary” 플러그인을 사용할 수 있는지 궁금합니다. 현재 플랜에 포함되어 있는지, 아니면 “enterprise” 플랜으로 업그레이드해야 하는지 잘 모르겠습니다.

미리 감사드립니다.

[JammyDodger]

안녕하세요, @acorrea

불행히도 Business 등급에서는 비공식 플러그인을 사용할 수 있는 옵션이 없습니다. 사용 가능한 모든 플러그인은 플러그인 페이지에서 확인하실 수 있습니다.

현재 공식 AI 플러그인을 개발 중이며, 조만간 더 자세한 정보를 공유할 수 있기를 바랍니다.

[merefield (Robert)]

토픽 태그 달리는 데 지긋지긋하시나요? AI가 대신 해 드릴게요! (상당히 똑똑하게!)

토픽의 콘텐츠에 따라 태그를 자동으로 적용하는 실험적(EXPERIMENTAL) 자동 태그 지원 기능을 추가했습니다.

여기서 지시하는 방향에도 불구하고 가끔 AI가 너무 창의적이 되기도 하므로, 기존에 있는 태그 집합으로만 제한할 수 있습니다.

다음 명령을 사용하여 레일스(rails) 콘솔에서 이 목적을 위해 비관리자(non-admin) 사용자를 빠르게 생성할 수 있습니다:

rake admin:create (이 사용자에게는 관리자 권한을 부여하지 마세요!)

(현재 Discourse의 "내부 API"가 태그 지정 시 "새 태그 생성 금지"를 지정할 수 없기 때문에, 현재로서는 이 문제를 쉽게 방지하는 유일한 방법은 해당 권한(즉, min_trust_to_create_tag보다 낮은 신뢰 수준)이 없는 사용자로 태그를 생성하는 것입니다. 이는 다소 해킹적인 우회 방법입니다.)

[merefield (Robert)]

제임스, 당신(과 다른 분들)이 이 내용에 관심이 있을 것 같습니다:

FEATURE: add chat endpoint option and custom model name capabilities (#9)

현재 이 기능을 테스트 중이며 곧 병합할 예정입니다:

• 기능: ChatGPT(더 빠르고 저렴함) 사용 기능 추가, GPT-4 포함
• 기능: Open AI 네임스페이스에 존재하는 경우 커스텀 모델 이름을 지정할 수 있도록 모델 이름 지정 기능 추가
• 기능: 응답 스타일에 영향을 미치는 설정 추가

(현재는 태그 결정이 아닌 요약에만 적용)

이 작업은 주로 아래 커뮤니케이션을 계기로 시작되었습니다:

이제 커스텀 모델 이름에 새로운 ChatGPT 모델(“gpt-3.5-turbo-16k”)을 지정할 수 있으며, 약 … …

=== > 160개 게시글 주제! (4배 증가!!) < ===

[merefield (Robert)]

OK, 해당 PR은 프로덕션 체크아웃 이후에 병합되었습니다. 문제가 있는 분은 알려주세요.

[JamesPick]

안녕하세요 @merefield,

업데이트 감사합니다. 변경 사항을 확인해 보겠습니다.

새로운 함수 기능도 저희가 검토 중인 부분입니다. API 호출에서 일관된 구조화된 데이터를 받을 수 있다는 아이디어는 정말 흥미롭습니다! 그리고 더 긴 컨텍스트에 대해 불평할 사람은 누가 있을까요

[merefield (Robert)]

다만, 원래 말씀하신 대로 컨텍스트가 크게 증가했음에도 불구하고 이 용도로 gpt-3.5-16k를 사용하는 것이 Davinci를 사용하는 것보다 거의 7배 저렴합니다.

지난 24시간 동안 이미 가격 곡선이 '평탄화’되는 것을 확인했습니다.

[frold]

채팅봇이 설치되어 있는 경우, AIBot이라면 사용자를 해당 봇으로 설정하고 그 플러그인의 토큰을 재사용할 수 있을까요?

Discourse 챗봇

요약 Discourse용 원본 AI 챗봇 리포지토리 링크 GitHub - merefield/discourse-chatbot: An AI bot with RAG capability for Topics, Chat & Customer Support in Discourse, currently powered by OpenAI · GitHub 설치 가이드 Discourse에 플러그인 설치 방법 스폰서십 이 플러그인이 마땅히 받아야 할 유지보수를 받고 향후에도 사용자의 사이트에서 계속 작동할 수 있도록, 사용자의 조직과 개인의 자원 및 필요에 맞는 수준으로 저의 오픈소스 작업에 대한 정기적인 스폰서가 되어 주십시오. 이 플러그인을 즐기고 계신가요? GitHub에서 를 눌러 주세요! [image] …

[merefield (Robert)]

토큰을 재사용하는 것은 괜찮습니다. 문제없습니다.

이 플러그인에서 사용자는 태그 선택을 제한하는 데만 사용됩니다 … 같은 AIBot 사용자를 재사용하면, 모든 곳에 게시할 수 있도록 높은 권한을 가지고 있을 가능성이 높기 때문에 새 태그를 생성할 권한도 있을 가능성이 큽니다. 직접 시도해 보지는 않았지만, AIBot의 TL을 낮게 유지할 수 있을지도 모릅니다.

새 태그가 생성되는 것이 괜찮다면 상관없지만, 그렇지 못하게 막는 것이 보통 결과가 더 좋습니다.

[frold]

제 AIBot은 TL 4입니다.

그리고 관리자 권한이 있는 것 같네요.

플러그인이 이전 게시물에도 적용되나요, 아니면 새 게시물에만 적용되나요?

[merefield (Robert)]

네, TL2인 다른 사용자를 만들거나 빌려서 그걸 사용하겠습니다. 그 사용자의 신뢰 수준(Trust Level)을 고정하고, 새 태그 생성 권한은 TL3로 제한하면 됩니다.

기존 토픽에서는 잘 작동하지만, 새 게시글이 작성될 때 발동됩니다.

[frold]

@merefield

네, TL2인 다른 사용자를 생성하거나 빌려서 그걸 사용하겠습니다. 해당 사용자의 신뢰 수준(Trust Level)을 고정하고, 새 태그 생성 권한은 TL3로 제한하겠습니다.

동작은 하지만 포럼 언어를 인식하지 못합니다 - 요약이 영어로 표시됩니다.

[merefield (Robert)]

@frold

동작은 하지만 포럼 언어를 인식하지 않아요 - 요약문이 영어로 나와요.

프롬프트를 업데이트하고, 선택한 언어로 요약해 달라고 요청해야 할 가능성이 높습니다.

이것은 Customize → Text에서 변경할 수 있습니다.

config/locales/server.en.yml

[frold]

@merefield

사용자 지정

아, 서머리 자체는 영어로 되어 있네요.

또한 태그 오류 문제가 있는 것 같습니다 :S

[merefield (Robert)]

@frold

tagging 오류 문제도 있는 것 같습니다 :S

권장 사항대로 태그 생성을 제한하지 않았다면 놀라운 일이 아닙니다.

몇 달 동안 이 설정을 사용했는데, 정말 놀라울 정도로 똑똑하게 작동합니다 :).

[merefield (Robert)]

@frold

tagging 오류 문제가 있는 것 같습니다 :S

@frold 님, 죄송합니다. 말씀하신 대로 옳았습니다.

재현하고, 집중해서 수정하는 데 이렇게 오래 걸려서 죄송합니다. 이제 Chat 모델을 사용하여 작동해야 합니다:

FIX: auto-tagging was broken when using Chat model (#11)

문제는 최근까지 tagging에 Chat 모델을 사용하지 않고 있었던 것이었고, 그 후에도 문제가 있다는 것을 알아채는 데 시간이 좀 걸렸습니다.

[sober]

sudo ./launcher rebuild app, /var/www/discourse/plugins/discourse-ai/plugin.rb에서 gem tokenizers를 지정하고 있지만, 해당 gem이 존재하지 않습니다!

discourse-topic-voting은 이미 최신 호환 버전입니다
discourse-translator는 이미 최신 호환 버전입니다
discourse-user-notes는 이미 최신 호환 버전입니다
discourse-whos-online은 이미 최신 호환 버전입니다
discourse-yearly-review는 이미 최신 호환 버전입니다
docker_manager는 이미 최신 호환 버전입니다

I, [2023-09-23T12:57:22.787693 #1]  INFO -- : > cd /var/www/discourse && su discourse -c 'bundle exec rake db:migrate'
ERROR:  gem 실행 중 ... (Gem::RemoteFetcher::FetchError)
    너무 많은 연결 리셋 (Gem::RemoteFetcher::FetchError)
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/request.rb:250:in `rescue in perform_request'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/request.rb:194:in `perform_request'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/request.rb:155:in `fetch'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/remote_fetcher.rb:310:in `request'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/remote_fetcher.rb:210:in `fetch_http'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/remote_fetcher.rb:249:in `fetch_path'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/remote_fetcher.rb:286:in `cache_update_path'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/remote_fetcher.rb:157:in `rescue in download'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/remote_fetcher.rb:142:in `download'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/source.rb:208:in `download'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/resolver/specification.rb:113:in `download'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/resolver/specification.rb:99:in `install'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/request_set.rb:280:in `block in install_into'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/request_set.rb:272:in `each'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/request_set.rb:272:in `install_into'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/request_set.rb:148:in `install'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/commands/install_command.rb:215:in `install_gem'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/commands/install_command.rb:231:in `block in install_gems'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/commands/install_command.rb:224:in `each'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/commands/install_command.rb:224:in `install_gems'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/commands/install_command.rb:170:in `execute'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/command.rb:328:in `invoke_with_build_args'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/command_manager.rb:253:in `invoke_command'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/command_manager.rb:193:in `process_args'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/command_manager.rb:151:in `run'
        /usr/local/lib/ruby/site_ruby/3.2.0/rubygems/gem_runner.rb:52:in `run'
        /usr/local/bin/gem:12:in `<main>'
I, [2023-09-23T13:23:20.135088 #1]  INFO -- : gem install tokenizers -v 0.3.3 -i /var/www/discourse/plugins/discourse-ai/gems/3.2.2 --no-document --ignore-dependencies --no-user-install

/var/www/discourse/plugins/discourse-ai/plugin.rb에서 gem tokenizers를 지정하고 있지만, 해당 gem이 존재하지 않습니다!
검색한 위치:
- /var/www/discourse/plugins/discourse-ai/gems/3.2.2/specifications/tokenizers-0.3.3.gemspec
- /var/www/discourse/plugins/discourse-ai/gems/3.2.2/specifications/tokenizers-0.3.3-x86_64-linux.gemspec
- /var/www/discourse/plugins/discourse-ai/gems/3.2.2/specifications/tokenizers-0.3.3-x86_64-linux.gemspec

I, [2023-09-23T13:23:20.135292 #1]  INFO -- : 비동기 프로세스 종료
I, [2023-09-23T13:23:20.135305 #1]  INFO -- : HOME=/var/lib/postgresql USER=postgres exec chpst -u postgres:postgres:ssl-cert -U postgres:postgres:ssl-cert /usr/lib/postgresql/13/bin/postmaster -D /etc/postgresql/13/main pid: 41에 INT 전송
I, [2023-09-23T13:23:20.135317 #1]  INFO -- : exec chpst -u redis -U redis /usr/bin/redis-server /etc/redis/redis.conf pid: 110에 TERM 전송
110:signal-handler (1695475400) SIGTERM 수신, 종료 예약...
2023-09-23 13:23:20.135 UTC [41] LOG:  빠른 종료 요청 수신
2023-09-23 13:23:20.152 UTC [41] LOG:  활성 트랜잭션 중단
2023-09-23 13:23:20.154 UTC [41] LOG:  백그라운드 워커 "logical replication launcher" (PID 50)가 종료 코드 1로 종료됨
2023-09-23 13:23:20.155 UTC [45] LOG:  종료 중
2023-09-23 13:23:20.198 UTC [41] LOG:  데이터베이스 시스템이 종료되었습니다
110:M 23 Sep 2023 13:23:20.223 # 사용자가 종료를 요청했습니다...
110:M 23 Sep 2023 13:23:20.223 * 종료 전에 최종 RDB 스냅샷 저장.
110:M 23 Sep 2023 13:23:20.286 * 디스크에 DB 저장됨
110:M 23 Sep 2023 13:23:20.286 # Redis가 이제 종료 준비가 되었습니다, 안녕...


실패
--------------------
Pups::ExecError: cd /var/www/discourse && su discourse -c 'bundle exec rake db:migrate' 실패, 반환 값 #<Process::Status: pid 1163 exit 255>
실패 위치: /usr/local/lib/ruby/gems/3.2.0/gems/pups-1.1.1/lib/pups/exec_command.rb:117:in `spawn'
실행 실패, 매개변수 {"cd"=>"$home", "hook"=>"db_migrate", "cmd"=>["su discourse -c 'bundle exec rake db:migrate'"]}
bootstrap 실패, 종료 코드 255
** BOOTSTRAP 실패 ** 이전 오류 메시지를 확인하십시오. 오류가 여러 개일 수 있습니다.
./discourse-doctor가 문제를 진단하는 데 도움이 될 수 있습니다.
d793fa4559a2f3b78d3bc76c74387dbbaf131de653790d71915713b4a6529f05

[merefield (Robert)]

이것은 해당 플러그인과 관련이 없습니다.

이 플러그인은 정상적으로 설치됩니다. 오늘 아침에 이 플러그인만 사용하여 다시 빌드했습니다.

[sober]

https://meta.discourse.org/t/discourse-ai/259214/92?u=sober

[Mr.X_Mr.X]

@merefield

프롬프트를 업데이트하고, 선택한 언어로 요약하도록 요청해야 할 가능성이 높습니다.

이것은 ‘사용자 정의(Customize)’ → '텍스트(Text)'에서 변경할 수 있습니다.

편집을 올바르게 수행하는 방법에 대해 도움을 받을 수 있을까요? AI와 “language” 키워드와 관련된 내용을 찾지 못했습니다.