Versión de Discourse: v3.3.0.beta6
Versión de IA: 9d887ad4
No importa qué modelo elija al iniciar una conversación con el bot.
Puedo ver solicitudes exitosas en la tabla ai_api_audit_logs.
Cuando un usuario inicia una conversación, la única llamada LLM que se realiza es la llamada del bot de título (“. Eres titlebot. Dado un tema, determinarás un título. Nunca responderás con nada más que un título de tema de 7 palabras.”)
el bot actualiza el título pero no responde.
Las solicitudes a nuestros proveedores funcionan bien; Discourse AI ni siquiera intenta realizar una llamada.
Aquí tienes una captura de pantalla de la conversación:
Suponiendo que te refieres a hacer clic en Editar junto a un LLM y luego desplazarte hacia abajo y hacer clic en Ejecutar prueba, obtengo un mensaje de éxito para todos los LLM habilitados (anthropic y openai).
Cambié el modelo predeterminado para la persona a gpt-4o. Intenté iniciar un MP con el bot y no funcionó. Volví a cambiar el modelo predeterminado a claude 3.5 sonnet y todavía no funciona. También intenté deshabilitar y volver a habilitar la persona.
Intenté un MP con una persona diferente que usa claude 3.5 sonnet y funciona bien. Una diferencia entre las dos personas es que la que no funciona tiene un usuario asociado. La otra persona no lo tiene y responde con el usuario claude-3-5-sonnet creado automáticamente.
Supongo que podría eliminar y recrear la persona rota. Sin embargo, la persona rota usa documentos cargados. Si elimino la persona rota, ¿se eliminarán las incrustaciones asociadas de los documentos cargados de postgres? No me importa regenerar las incrustaciones, ya que es bastante económico.
Para cualquiera que se encuentre con esto, puedo confirmar que eliminar y recrear la persona solucionó el problema. Además, eliminar una persona efectivamente elimina los elementos relacionados en las tablas rag_document_fragments y ai_document_fragment_embeddings.