Estou realmente pensando na experiência de continuidade do usuário final, RAG eu considero ótimo para administradores fornecerem informações para personas. Com ChatGPT/Gemini/outros, o bot carrega um pequeno perfil adiante — tom, profundidade, objetivos contínuos — para que você não precise explicar novamente a cada sessão. Essa é a experiência que seria ótima no Discourse AI: o assistente se lembra de algumas coisas duradouras sobre cada usuário e as usa quando relevante, para que as conversas continuem de onde pararam.
Não tenho entendimento se o histórico de conversas RAG do usuário final é possível de alguma forma.
O valor é que qualquer sensação confiável de “ele me conhece” sem prompts constantes aprimora muito a experiência para casos de uso onde as mesmas conversas são revisitadas pelos usuários.
Dito isso, não acho que nada disso seja uma tarefa pequena. Não consigo dizer o suficiente sobre o quão bem tudo isso já foi desenvolvido.