Estou entrando em contato para perguntar sobre o recurso de conteúdo relacionado no Discourse. Notei que ele depende de IA externa. Por que essa abordagem foi escolhida em vez de desenvolver um sistema interno baseado em tags ou categorias que pudesse oferecer conteúdo relevante diretamente? Eu vi uma opção para sugerir tópicos da mesma categoria, mas nada para tags.
Existe algum plugin ou componente oficial do Discourse que forneça essa funcionalidade? Gostaria de agradecer pelo trabalho diário e pela constante inovação que vocês trazem para a plataforma.
Nota: Não sou funcionário da Discourse nem da OpenAI, mas sou moderador de categoria no fórum da OpenAI (criadores do ChatGPT e GPT 4) e tenho usado muitos dos recursos de IA da Discourse mesmo durante o desenvolvimento.
Os meios que você observa são pesquisas sintáticas, esta é uma pesquisa semântica e usa embeddings em vez de palavras-chave.
Uma pesquisa no Google por como funciona a pesquisa semântica revela muitos artigos, aqui está um que acho que muitos aqui podem gostar
Sobre o uso de recursos externos, você pode executar seu LLM localmente, se quiser?:
Mas você já fez isso para algum projeto?
É necessário possuir ou alugar hardware particularmente impressionante!
Experimente os modelos de linguagem menores (que você pode considerar hospedar) por conta própria e veja o quão impressionado você fica:
Sua experiência pode variar, mas, na minha opinião, você precisaria considerar hospedar um modelo com pelo menos 70 bilhões de parâmetros, o que será bastante caro para auto-hospedar.
Para referência, o GPT 3.5 é supostamente um modelo de 175 bilhões de parâmetros e o GPT 4 tem quase 2 trilhões (eles dizem)
Eu escrevi este plugin:
E ele tem um recurso de marcação de IA. Na minha experiência, você precisa do GPT 4 Turbo para fazê-lo funcionar bem (e ele funciona realmente bem então!)
Se você pretendesse auto-hospedar algo tão poderoso quanto esses, precisaria de bolsos muito fundos.
É por isso que o uso de uma API externa de LLM ainda é uma opção atraente, paga conforme o uso, especialmente porque você paga apenas pelas chamadas que faz, não por uma infraestrutura cara que passa qualquer tempo ociosa.
Claro, se a privacidade for uma preocupação importante e suficiente, isso pode mudar os cálculos.
@EricGT@merefield Obrigado pela sua resposta rápida e pelas informações fornecidas. Entendo e valorizo a inovação que a IA traz para a plataforma Discourse. No entanto, estou preocupado com os rigorosos requisitos de proteção de dados na Europa, especialmente na França com o GDPR. Consultar um advogado para garantir a conformidade com nossa política de privacidade pode ser bastante caro.
É por isso que eu estava me perguntando se existe um plugin do Discourse disponível que ofereça funcionalidade de conteúdo relacionado sem a necessidade de IA externa.
Além disso, gostaria de compartilhar minha experiência pessoal com você: hesitei por muito tempo em lançar meu fórum Discourse, temendo não fazer as coisas direito, apesar dos guias disponíveis. O advento do ChatGPT mudou o jogo para mim. É incrível como isso mudou minha vida: com sua ajuda, pude empreender projetos que antes não teria ousado. É uma revolução que me abre novas perspectivas e me permite avançar com confiança.
Obrigado novamente por todo o trabalho que vocês fazem e pelo seu apoio contínuo.
Conforme mencionado, os plugins de IA podem usar serviços externos ou você pode criar seu próprio sistema de nuvem pessoal que executa as mesmas tarefas. No entanto, executar seu próprio serviço de IA é caro, requer manutenção extra e não oferece resultados comparáveis aos serviços externos.
Essa é uma limitação da própria tecnologia de IA, que é tão desafiadora de manter e executar, não há nada que o Discourse possa fazer a respeito. Os plugins do Discourse são agnósticos quanto ao fato de você estar usando um serviço externo ou um “interno”.
