aas:
O Discourse AI parece incrível e estou super ansioso para configurá-lo em minha instância auto-hospedada!
Uma pergunta que tenho (ou talvez um pedido de recurso) relacionado ao bot auxiliar e aos embeddings é: posso escolher quais tópicos são usados para geração aumentada de recuperação (RAG) ? Por exemplo, seria incrível se eu pudesse configurar o plugin para computar embeddings apenas para tópicos em minhas categorias de documentação oficial. Temo que, se o bot estiver construindo um banco de dados vetorial usando tudo em nosso fórum, a saída não será boa o suficiente. Também seria interessante configurá-lo para computar embeddings apenas para tópicos com tags específicas ou tópicos resolvidos. Estou curioso sobre os detalhes essay sobre o fluxo de trabalho RAG. O Discourse AI tem um fluxo de trabalho RAG? Teremos a capacidade de controlar quais documentos são adicionados ao banco de dados vetorial? Se já tivermos uma coleção de embeddings, podemos configurar o Discourse AI para usá-los ao chamar o auxiliar ou a pesquisa semântica?
Vi isso brevemente mencionado aqui, mas adoraria saber mais detalhes!
O que nesta persona se baseia na integração do Discourse, além de usar a interface do Discourse como front-end para o LLM externo? Para a maioria de nossas personas, estamos investigando fazer RAG, onde podemos criar algo que um LLM pronto para uso também não oferecerá.
Até onde sei, o plugin Discourse AI constrói apenas um banco de dados vetorial usando todas as postagens do fórum, mas essa abordagem será refinada para permitir que os usuários especifiquem quais documentos devem ser incluídos. Isso permitirá um controle mais granular sobre os dados de treinamento e melhorará a qualidade das respostas geradas.
Além disso, a capacidade de incorporar embeddings pré-computados ainda está sendo explorada…
1 curtida