Acabamos de implantar uma grande melhoria na tecnologia subjacente que impulsiona a pesquisa semântica no Discourse em DEV: Re-introduce PG Vector 0.8.0 upgrade by romanrizzi · Pull Request #35233 · discourse/discourse · GitHub.
Você pode tentar seu caso de uso novamente agora, já está implantado em seu site. Minha expectativa é que isso melhore o RAG sem a necessidade de um reranker.
Ainda queremos tornar o reranker amplamente disponível, mas estamos aguardando algumas alterações upstream antes.