A IA do Discourse está saindo dos trilhos

Como não sou especialista em todas as configurações atuais do Discourse AI, este é o meu melhor entendimento.

Tanto no meu site quanto no seu, a configuração exibe:

Modelo de LLM padrão: CDCK Hosted LLM

Pelo que consigo encontrar, este é o serviço de LLM hospedado do Discourse. Mais precisamente, a implementação atual do CDCK/MoM é uma camada de roteamento Mixture of Models (Mistura de Modelos), em vez de um modelo fixo. Ela pode rotear solicitações para diferentes modelos de pesos abertos, dependendo da tarefa. O Discourse tem uma explicação útil aqui:

Outro local útil para verificar é:

/admin/plugins/discourse-ai/ai-llms

Essa é a página de configuração de LLM do Discourse AI, onde os administradores podem ver as conexões de LLM configuradas e quais modelos estão disponíveis para os recursos do Discourse AI.

Por exemplo, no site em que sou administrador, vejo:

o que indicará se esse é o modelo que está por trás da ação que você usou.

Isso parece responder à pergunta que fiz sobre o modelo e as configurações.