Der AI-Bot reagierte nach dem letzten Update nicht mehr

[aas]

Discourse-Version: v3.3.0.beta6
KI-Version: 9d887ad4

• Es spielt keine Rolle, welches Modell ich wähle, wenn ich eine Konversation mit dem Bot starte
• Ich kann erfolgreiche Anfragen in der Tabelle ai_api_audit_logs sehen.
  • Wenn ein Benutzer eine Konversation startet, ist der einzige LLM-Aufruf, der gemacht wird, der Titel-Bot-Aufruf („. Du bist Titlebot. Gib einen Titel für ein Thema an. Du wirst niemals etwas anderes als einen 7-Wörter-Thementitel antworten.“)
  • Der Bot aktualisiert den Titel, antwortet aber nicht
• Anfragen an unsere Anbieter funktionieren einwandfrei – Discourse AI versucht nicht einmal, einen Aufruf zu tätigen

Hier ist ein Screenshot der Konversation:

Beachten Sie die leere Bot-Antwort.

Aus den Protokollen geht hervor, dass nur ein bot_title-Aufruf und kein bot-Protokoll vorhanden ist.

Hier sind die Einstellungen der Persona

[Falco]

Was passiert, wenn Sie zu /admin/plugins/discourse-ai/ai-llms navigieren und bei dieser LLM auf Test klicken?

[aas]

Wenn Sie damit meinen, auf Bearbeiten neben einem LLM zu klicken, dann nach unten zu scrollen und auf Test ausführen zu klicken, erhalte ich für alle aktivierten LLMs (anthropic und openai) eine Erfolgsmeldung.

[sam (Sam Saffron)]

Gibt es etwas in /logs?

[aas]

Beim Kuckuck, das gibt es! Job exception: DiscourseAi::Completions::Llm::UNKNOWN_MODEL

Message (30 copies reported)

Job exception: DiscourseAi::Completions::Llm::UNKNOWN_MODEL

Backtrace

/var/www/discourse/plugins/discourse-ai/lib/completions/llm.rb:129:in `proxy'
/var/www/discourse/plugins/discourse-ai/lib/ai_bot/personas/persona.rb:155:in `craft_prompt'
/var/www/discourse/plugins/discourse-ai/lib/ai_bot/bot.rb:54:in `reply'
/var/www/discourse/plugins/discourse-ai/lib/ai_bot/playground.rb:426:in `reply_to'
/var/www/discourse/plugins/discourse-ai/app/jobs/regular/create_ai_reply.rb:18:in `execute'
/var/www/discourse/app/jobs/base.rb:305:in `block (2 levels) in perform'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rails_multisite-6.0.0/lib/rails_multisite/connection_management/null_instance.rb:49:in `with_connection'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rails_multisite-6.0.0/lib/rails_multisite/connection_management.rb:21:in `with_connection'
/var/www/discourse/app/jobs/base.rb:292:in `block in perform'
/var/www/discourse/app/jobs/base.rb:288:in `each'
/var/www/discourse/app/jobs/base.rb:288:in `perform'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:202:in `execute_job'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:170:in `block (2 levels) in process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/middleware/chain.rb:177:in `block in invoke'
/var/www/discourse/lib/sidekiq/pausable.rb:132:in `call'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/middleware/chain.rb:179:in `block in invoke'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/middleware/chain.rb:182:in `invoke'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:169:in `block in process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:136:in `block (6 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_retry.rb:113:in `local'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:135:in `block (5 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq.rb:44:in `block in <module:Sidekiq>'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:131:in `block (4 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:263:in `stats'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:126:in `block (3 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_logger.rb:13:in `call'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:125:in `block (2 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_retry.rb:80:in `global'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:124:in `block in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_logger.rb:39:in `prepare'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:123:in `dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:168:in `process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:78:in `process_one'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:68:in `run'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/component.rb:8:in `watchdog'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/component.rb:17:in `block in safe_thread'

env:

hostname forum-app
process_id 2575726
application_version a4bfe8adb4aae3e8049ce5e7122ba01f4db1bdb5
current_db default
current_hostname community.ankihub.net
job Jobs::CreateAiReply
problem_db default
time 5:15 pm
opts
post_id 334872
bot_user_id -121
persona_id 1
current_site_id default

[sam (Sam Saffron)]

Versuchen Sie, eine andere Standard-LLM in der Persona auszuwählen, zu speichern, neu zu laden und dann wieder Claude 3.5 Sonnet auszuwählen.

Dies könnte mit der Migration zusammenhängen.

[aas]

Ich habe das Standardmodell für die Persona auf gpt-4o geändert. Ich habe versucht, eine Direktnachricht mit dem Bot zu starten, und es hat nicht funktioniert. Ich habe das Standardmodell zurück auf claude 3.5 sonnet umgestellt, und es funktioniert immer noch nicht. Ich habe auch versucht, die Persona zu deaktivieren und wieder zu aktivieren.

Ich habe eine Direktnachricht mit einer anderen Persona versucht, die claude 3.5 sonnet verwendet, und sie funktioniert einwandfrei. Ein Unterschied zwischen den beiden Personas ist, dass diejenige, die nicht funktioniert, einen Benutzer damit verbunden hat. Die andere Persona hat keinen und antwortet mit dem automatisch erstellten Benutzer claude-3-5-sonnet.

Ich nehme an, ich könnte die fehlerhafte Persona löschen und neu erstellen? Wenn ich jedoch die fehlerhafte Persona lösche, werden die zugehörigen Embeddings aus den hochgeladenen Dokumenten aus Postgres gelöscht? Es macht mir nichts aus, die Embeddings neu zu generieren, da das ziemlich günstig ist.

[aas]

Ich habe gerade auf Discourse 3.4.0.beta1 und Discourse AI 36ce88f3 aktualisiert, aber es funktioniert immer noch nicht. Ich werde die defekte Persona löschen und neu erstellen.

[aas]

Für alle, die zufällig darauf stoßen: Ich kann bestätigen, dass das Löschen und Neuerstellen der Persona das Problem behoben hat. Außerdem werden beim Löschen einer Person tatsächlich die zugehörigen Elemente in den Tabellen rag_document_fragments und ai_document_fragment_embeddings entfernt.