La IA de Discourse se sale por los bordes

Como no soy experto en cada una de las configuraciones actuales de Discourse AI, esta es mi mejor comprensión.

En mi sitio y en el tuyo, la configuración muestra:

Modelo de LLM predeterminado: CDCK Hosted LLM

Por lo que puedo encontrar, este es el servicio de LLM alojado de Discourse. Más precisamente, la implementación actual de CDCK/MoM es una capa de enrutamiento de Mixture of Models (Mezcla de Modelos) en lugar de un modelo fijo. Puede enrutar las solicitudes a diferentes modelos de pesos abiertos según la tarea. Discourse tiene una explicación útil aquí:

Otro lugar útil para verificar es:

/admin/plugins/discourse-ai/ai-llms

Esta es la página de configuración de LLM de Discourse AI, donde los administradores pueden ver las conexiones de LLM configuradas y qué modelos están disponibles para las funciones de Discourse AI.

Por ejemplo, en mi sitio veo:

lo cual indicará si eso es lo que respalda la acción que utilizaste.

Parece que eso responde a la pregunta que hice sobre el modelo y la configuración.