Il bot AI ha smesso di rispondere dopo l'ultimo aggiornamento

[aas]

Versione di Discourse: v3.3.0.beta6
Versione AI: 9d887ad4

• Non importa quale modello scelgo quando inizio una conversazione con il bot
• Posso vedere richieste riuscite nella tabella ai_api_audit_logs.
  • quando un utente inizia una conversazione, l’unica chiamata LLM effettuata è la chiamata del bot per il titolo (“Sei titlebot. Dato un argomento, troverai un titolo. Non risponderai mai con altro che un titolo di argomento di 7 parole.”)
  • il bot aggiorna il titolo ma non risponde
• Le richieste ai nostri provider funzionano bene - Discourse AI non sta nemmeno tentando di effettuare una chiamata

Ecco uno screenshot della conversazione:

Nota la risposta vuota del bot.

Dai log si può vedere che c’è solo una chiamata bot_title e non un log bot.

Ecco le impostazioni della persona:

[Falco]

Cosa succede quando si va su /admin/plugins/discourse-ai/ai-llms e si preme Test su questo LLM?

[aas]

Supponendo che tu intenda fare clic su Modifica accanto a un LLM, quindi scorrere verso il basso e fare clic su Esegui test, ricevo un messaggio di successo per tutti gli LLM abilitati (anthropic e openai).

[sam (Sam Saffron)]

C’è qualcosa in /logs?

[aas]

Per bacco, c’è! Job exception: DiscourseAi::Completions::Llm::UNKNOWN_MODEL

Message (30 copies reported)

Job exception: DiscourseAi::Completions::Llm::UNKNOWN_MODEL

Backtrace

/var/www/discourse/plugins/discourse-ai/lib/completions/llm.rb:129:in `proxy'
/var/www/discourse/plugins/discourse-ai/lib/ai_bot/personas/persona.rb:155:in `craft_prompt'
/var/www/discourse/plugins/discourse-ai/lib/ai_bot/bot.rb:54:in `reply'
/var/www/discourse/plugins/discourse-ai/lib/ai_bot/playground.rb:426:in `reply_to'
/var/www/discourse/plugins/discourse-ai/app/jobs/regular/create_ai_reply.rb:18:in `execute'
/var/www/discourse/app/jobs/base.rb:305:in `block (2 levels) in perform'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rails_multisite-6.0.0/lib/rails_multisite/connection_management/null_instance.rb:49:in `with_connection'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rails_multisite-6.0.0/lib/rails_multisite/connection_management.rb:21:in `with_connection'
/var/www/discourse/app/jobs/base.rb:292:in `block in perform'
/var/www/discourse/app/jobs/base.rb:288:in `each'
/var/www/discourse/app/jobs/base.rb:288:in `perform'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:202:in `execute_job'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:170:in `block (2 levels) in process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/middleware/chain.rb:177:in `block in invoke'
/var/www/discourse/lib/sidekiq/pausable.rb:132:in `call'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/middleware/chain.rb:179:in `block in invoke'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/middleware/chain.rb:182:in `invoke'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:169:in `block in process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:136:in `block (6 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_retry.rb:113:in `local'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:135:in `block (5 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq.rb:44:in `block in <module:Sidekiq>'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:131:in `block (4 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:263:in `stats'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:126:in `block (3 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_logger.rb:13:in `call'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:125:in `block (2 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_retry.rb:80:in `global'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:124:in `block in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/job_logger.rb:39:in `prepare'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:123:in `dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:168:in `process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:78:in `process_one'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/processor.rb:68:in `run'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/component.rb:8:in `watchdog'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-6.5.12/lib/sidekiq/component.rb:17:in `block in safe_thread'

env:

hostname	forum-app
process_id	2575726
application_version	a4bfe8adb4aae3e8049ce5e7122ba01f4db1bdb5
current_db	default
current_hostname	community.ankihub.net
job	Jobs::CreateAiReply
problem_db	default
time	5:15 pm
opts	
post_id	334872
bot_user_id	-121
persona_id	1
current_site_id	default

[sam (Sam Saffron)]

prova a selezionare un LLM predefinito diverso nella persona, salvare, ricaricare e quindi selezionare nuovamente Claude 3.5 Sonnet

Questo potrebbe essere correlato alla migrazione.

[aas]

Ho cambiato il modello predefinito per la persona in gpt-4o. Ho provato ad avviare una chat privata con il bot e non ha funzionato. Ho ripristinato il modello predefinito a claude 3.5 sonnet e ancora non funziona. Ho anche provato a disabilitare e riabilitare la persona.

Ho provato una chat privata con una persona diversa che utilizza claude 3.5 sonnet e funziona bene. Una differenza tra le due persone è che quella che non funziona ha un utente associato. L’altra persona non ne ha e risponde con l’utente claude-3-5-sonnet creato automaticamente.

Suppongo che potrei eliminare e ricreare la persona non funzionante? Tuttavia, la persona non funzionante utilizza documenti caricati. Se elimino la persona non funzionante, gli embedding associati dai documenti caricati verranno eliminati da postgres? Non mi dispiace rigenerare gli embedding poiché sono piuttosto economici.

[aas]

Mi sono appena aggiornato a Discourse 3.4.0.beta1 e Discourse AI 36ce88f3, ma ancora non funziona. Suppongo che eliminerò e ricreerò la persona non funzionante.

[aas]

Per chiunque si imbattesse in questo, posso confermare che eliminare e ricreare la persona ha risolto il problema. Inoltre, eliminare una persona rimuove effettivamente gli elementi correlati nelle tabelle rag_document_fragments e ai_document_fragment_embeddings.