마지막 업데이트 후 AI 봇이 응답을 멈췄어요

[aas]

Discourse 버전: v3.3.0.beta6
AI 버전: 9d887ad4

• 봇과 대화를 시작할 때 어떤 모델을 선택하든 관계없음
• ai_api_audit_logs 테이블에서 성공적인 요청을 확인할 수 있음.
  • 사용자가 대화를 시작할 때 이루어지는 유일한 LLM 호출은 제목 봇 호출임 (“. You are titlebot. Given a topic, you will figure out a title.\nYou will never respond with anything but 7 word topic title.”)
  • 봇은 제목은 업데이트하지만 응답하지 않음
• 프로바이더에 대한 요청은 정상적으로 작동함 - Discourse AI가 호출을 시도조차 하지 않음

대화 스크린샷입니다:

빈 봇 응답을 주목해 주세요.

로그에서 bot 로그가 아닌 bot_title 호출만 있는 것을 볼 수 있습니다.

페르소나 설정입니다.

[Falco]

/admin/plugins/discourse-ai/ai-llms로 이동하여 이 LLM에서 테스트를 누르면 어떤 일이 발생합니까?

[aas]

LLLM 옆의 Edit를 클릭한 후 아래로 스크롤하여 Run Test를 클릭하려는 것이라면, 활성화된 모든 LLM(anthropic 및 openai)에 대해 성공 메시지가 표시됩니다.

[sam (Sam Saffron)]

/logs에 뭐가 있나요?

[aas]

정말이네요! Job exception: DiscourseAi::Completions::Llm::UNKNOWN_MODEL

Message (30 copies reported)

Job exception: DiscourseAi::Completions::Llm::UNKNOWN_MODEL

Backtrace

/var/www/discourse/plugins/discourse-ai/lib/completions/llm.rb:129:in `proxy'
/var/www/discourse/plugins/discourse-ai/lib/ai_bot/personas/persona.rb:155:in `craft_prompt'
/var/www/discourse/plugins/discourse-ai/lib/ai_bot/bot.rb:54:in `reply'
/var/www/discourse/plugins/discourse-ai/lib/ai_bot/playground.rb:426:in `reply_to'
/var/www/discourse/plugins/discourse-ai/app/jobs/regular/create_ai_reply.rb:18:in `execute'
/var/www/discourse/app/jobs/base.rb:305:in `block (2 levels) in perform'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rails_multisite-6.0.0/lib/rails_multisite/connection_management/null_instance.rb:49:in `with_connection'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rails_multisite-6.0.0/lib/rails_multisite/connection_management.rb:21:in `with_connection'
/var/www/discourse/app/jobs/base.rb:292:in `block in perform'
/var/www/discourse/app/jobs/base.rb:288:in `each'
/var/www/discourse/app/jobs/base.rb:288:in `perform'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:202:in `execute_job'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:170:in `block (2 levels) in process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/middleware/chain.rb:177:in `block in invoke'
/var/www/discourse/lib/sidekiq/pausable.rb:132:in `call'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/middleware/chain.rb:179:in `block in invoke'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/middleware/chain.rb:182:in `invoke'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:169:in `block in process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:136:in `block (6 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_retry.rb:113:in `local'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:135:in `block (5 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq.rb:44:in `block in <module:Sidekiq>'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:131:in `block (4 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:263:in `stats'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:126:in `block (3 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_logger.rb:13:in `call'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:125:in `block (2 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_retry.rb:80:in `global'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:124:in `block in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_logger.rb:39:in `prepare'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:123:in `dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:168:in `process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:78:in `process_one'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:68:in `run'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/component.rb:8:in `watchdog'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/component.rb:17:in `block in safe_thread'

env:

hostname	forum-app
process_id	2575726
application_version	a4bfe8adb4aae3e8049ce5e7122ba01f4db1bdb5
current_db	default
current_hostname	community.ankihub.net
job	Jobs::CreateAiReply
problem_db	default
time	5:15 pm
opts	
post_id	334872
bot_user_id	-121
persona_id	1
current_site_id	default

[sam (Sam Saffron)]

페르소나에서 다른 기본 LLM을 선택한 후 저장하고, 다시 로드한 다음 Claude 3.5 Sonnet을 다시 선택해 보세요.

이것은 마이그레이션과 관련이 있을 수 있습니다.

[aas]

페르소나의 기본 모델을 gpt-4o로 변경했습니다. 봇과 개인 메시지(PM)를 시도해 보았지만 작동하지 않았습니다. 기본 모델을 다시 claude 3.5 sonnet으로 되돌렸지만 여전히 작동하지 않습니다. 또한 페르소나를 비활성화했다가 다시 활성화해 보기도 했습니다.

claude 3.5 sonnet을 사용하는 다른 페르소나로 개인 메시지를 시도해 보니 정상적으로 작동합니다. 두 페르소나 간의 차이점 중 하나는 작동하지 않는 페르소나에는 사용자가 연결되어 있다는 점입니다. 다른 페르소나는 연결된 사용자가 없으며 자동 생성된 claude-3-5-sonnet 사용자로 응답합니다.

결함이 있는 페르소나를 삭제하고 다시 생성할 수도 있을 것 같습니다. 하지만 결함이 있는 페르소나는 업로드된 문서를 사용합니다. 결함이 있는 페르소나를 삭제하면 업로드된 문서와 관련된 임베딩이 postgres에서 삭제되나요? 임베딩을 다시 생성하는 것은 비용이 거의 들지 않으므로 괜찮습니다.

[aas]

방금 Discourse 3.4.0.beta1과 Discourse AI 36ce88f3으로 업데이트했지만, 여전히 작동하지 않습니다. 고장 난 페르소나를 삭제하고 다시 생성해야 할 것 같습니다.

[aas]

혹시 이 글을 보시는 분들을 위해 말씀드리자면, 페르소나를 삭제하고 다시 생성하면 문제가 해결된다는 것을 확인했습니다. 또한, 한 사람을 삭제하면 rag_document_fragments와 ai_document_fragment_embeddings 테이블에 있는 관련 항목도 실제로 함께 삭제됩니다.