# Por que IA externa foi escolhida em vez de um sistema interno?
**URL:** https://meta.discourse.org/t/why-was-external-ai-chosen-over-an-internal-system/292904
**Category:** Support
**Tags:** ai, related-topics
**Created:** [Janeiro 25, 2024, 12:34pm UTC](https://meta.discourse.org/t/why-was-external-ai-chosen-over-an-internal-system/292904 "2024-01-25T12:34:47Z")
**Posts on this page:** 6
**Page:** 1
### Author:  [@Kevin7](https://meta.discourse.org/u/Kevin7)
#### Post date: [Janeiro 25, 2024, 12:34pm UTC](https://meta.discourse.org/t/why-was-external-ai-chosen-over-an-internal-system/292904/1 "2024-01-25T12:34:47Z")
Olá,
Estou entrando em contato para perguntar sobre o recurso de conteúdo relacionado no Discourse. Notei que ele depende de IA externa. Por que essa abordagem foi escolhida em vez de desenvolver um sistema interno baseado em tags ou categorias que pudesse oferecer conteúdo relevante diretamente? Eu vi uma opção para sugerir tópicos da mesma categoria, mas nada para tags.
Existe algum plugin ou componente oficial do Discourse que forneça essa funcionalidade? Gostaria de agradecer pelo trabalho diário e pela constante inovação que vocês trazem para a plataforma.
---
### Author:  [@EricGT](https://meta.discourse.org/u/EricGT)
#### Post date: [Janeiro 25, 2024, 12:51pm UTC](https://meta.discourse.org/t/why-was-external-ai-chosen-over-an-internal-system/292904/2 "2024-01-25T12:51:13Z")
Nota: Não sou funcionário da Discourse nem da OpenAI, mas sou moderador de categoria no fórum da OpenAI (criadores do ChatGPT e GPT 4) e tenho usado muitos dos recursos de IA da Discourse mesmo durante o desenvolvimento.
> [@Kevin7](#):
>
> Por que essa abordagem foi escolhida em vez de desenvolver um sistema interno baseado em tags ou categorias que pudesse oferecer conteúdo relevante diretamente?
Os meios que você observa são pesquisas sintáticas, esta é uma pesquisa semântica e usa embeddings em vez de palavras-chave.
Uma pesquisa no Google por `como funciona a pesquisa semântica` revela muitos artigos, aqui está um que acho que muitos aqui podem gostar
> **[Semantic Search: What Is It & Why Does It Matter?](https://www.bloomreach.com/en/blog/semantic-search-explained-in-5-minutes)**
>
> Learn what semantic search is, how it works, why it can impact your business, and where product discovery tools, like Bloomreach Discovery, can help.
> [@Kevin7](#):
>
> Existe um plugin ou componente oficial da Discourse que forneça essa funcionalidade?
Sim, faz parte do [plugin Discourse AI](https://meta.discourse.org/t/discourse-ai/259214), especificamente [Tópicos Relacionados Semânticos](https://meta.discourse.org/t/discourse-ai/259214#semantic-related-topics-8).
---
### Author:  [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [Janeiro 25, 2024, 1:25pm UTC](https://meta.discourse.org/t/why-was-external-ai-chosen-over-an-internal-system/292904/3 "2024-01-25T13:25:51Z")
> [@Kevin7](#):
>
> Notei que ele depende de IA externa. Por que essa abordagem foi escolhida em vez de desenvolver um sistema interno?
Sobre o uso de recursos externos, você pode executar seu LLM localmente, se quiser?:
> [@Self-Hosting an OpenSource LLM for DiscourseAI](https://meta.discourse.org/t/self-hosting-an-opensource-llm-for-discourseai/290923):
>
> The [Discourse AI](https://meta.discourse.org/t/discourse-ai/259214) plugin has many features that require an LLM to be enabled, like, for example, Summarization, AI Helper, AI Search, AI Bot. While you can use a third party API, like [Configure API Keys for OpenAI](https://meta.discourse.org/t/configure-api-keys-for-openai/280783) or [Configure API Keys for Anthropic](https://meta.discourse.org/t/configure-api-keys-for-anthropic/280936) we built Discourse AI since first day to not be locked into those. Running with HuggingFace TGI HuggingFace provides an awesome container image that can get you running quickly. For example: mkdir -p /opt/tgi-cache docker run --rm --gpus all --shm-…
Mas você já fez isso para algum projeto?
É necessário possuir ou alugar hardware particularmente impressionante!
Experimente os modelos de linguagem menores (que você pode considerar hospedar) por conta própria e veja o quão impressionado você fica:
> **[GitHub - ollama/ollama: Get up and running with OpenAI gpt-oss,...](https://github.com/ollama/ollama)**
>
> Get up and running with OpenAI gpt-oss, DeepSeek-R1, Gemma 3 and other models.
Sua experiência pode variar, mas, na minha opinião, você precisaria considerar hospedar um modelo com pelo menos 70 bilhões de parâmetros, o que será bastante caro para auto-hospedar.
Para referência, o GPT 3.5 é supostamente um modelo de 175 bilhões de parâmetros e o GPT 4 tem quase 2 trilhões (eles dizem) 😅
Eu escrevi este plugin:
> [@Discourse AI Topic Summary robot](https://meta.discourse.org/t/discourse-ai-topic-summary-automated-summaries-and-smart-tagging/256711?u=merefield):
>
> information_sourceSummary Uses a remote AI language model to prepare and post a summary of a topic.hammer_and_wrenchRepository Link [GitHub - merefield/discourse-ai-topic-summary: Uses a remote AI language model to prepare and post a summary of a Topic](https://github.com/merefield/discourse-ai-topic-summary)open_bookInstall Guide [How to install plugins in Discourse](https://meta.discourse.org/t/install-plugins-in-discourse/19157)heartSponsorship Please consider becoming an ongoing [sponsor of my open source work](https://github.com/sponsors/merefield) at a level that suits your or your organisation’s resources and needs to en…
E ele tem um recurso de marcação de IA. Na minha experiência, você precisa do GPT 4 Turbo para fazê-lo funcionar bem (e ele funciona _realmente_ bem então!)
Se você pretendesse auto-hospedar algo tão poderoso quanto esses, precisaria de bolsos muito fundos.
É por isso que o uso de uma API externa de LLM ainda é uma opção atraente, paga conforme o uso, especialmente porque você paga apenas pelas chamadas que faz, não por uma infraestrutura cara que passa qualquer tempo ociosa.
Claro, se a privacidade for uma preocupação importante e suficiente, isso pode mudar os cálculos.
---
### Author:  [@Kevin7](https://meta.discourse.org/u/Kevin7)
#### Post date: [Janeiro 25, 2024, 6:39pm UTC](https://meta.discourse.org/t/why-was-external-ai-chosen-over-an-internal-system/292904/4 "2024-01-25T18:39:09Z")
@EricGT @merefield Obrigado pela sua resposta rápida e pelas informações fornecidas. Entendo e valorizo a inovação que a IA traz para a plataforma Discourse. No entanto, estou preocupado com os rigorosos requisitos de proteção de dados na Europa, especialmente na França com o GDPR. Consultar um advogado para garantir a conformidade com nossa política de privacidade pode ser bastante caro.
É por isso que eu estava me perguntando se existe um plugin do Discourse disponível que ofereça funcionalidade de conteúdo relacionado sem a necessidade de IA externa.
Além disso, gostaria de compartilhar minha experiência pessoal com você: hesitei por muito tempo em lançar meu fórum Discourse, temendo não fazer as coisas direito, apesar dos guias disponíveis. O advento do ChatGPT mudou o jogo para mim. É incrível como isso mudou minha vida: com sua ajuda, pude empreender projetos que antes não teria ousado. É uma revolução que me abre novas perspectivas e me permite avançar com confiança.
Obrigado novamente por todo o trabalho que vocês fazem e pelo seu apoio contínuo.
---
### Author:  [@piffy](https://meta.discourse.org/u/piffy)
#### Post date: [Janeiro 25, 2024, 6:51pm UTC](https://meta.discourse.org/t/why-was-external-ai-chosen-over-an-internal-system/292904/5 "2024-01-25T18:51:07Z")
Conforme mencionado, os plugins de IA podem usar serviços externos ou você pode criar seu próprio sistema de nuvem pessoal que executa as mesmas tarefas. No entanto, executar seu próprio serviço de IA é caro, requer manutenção extra e não oferece resultados comparáveis aos serviços externos.
Essa é uma limitação da própria tecnologia de IA, que é tão desafiadora de manter e executar, não há nada que o Discourse possa fazer a respeito. Os plugins do Discourse são agnósticos quanto ao fato de você estar usando um serviço externo ou um “interno”.
---
### Author:  [@Jagster](https://meta.discourse.org/u/Jagster)
#### Post date: [Janeiro 25, 2024, 8:22pm UTC](https://meta.discourse.org/t/why-was-external-ai-chosen-over-an-internal-system/292904/6 "2024-01-25T20:22:51Z")
> [@Kevin7](#):
>
> No entanto, estou preocupado com os rigorosos requisitos de proteção de dados na Europa, especialmente na França com o GDPR
Totalmente irrelevante neste contexto.
Mas… um advogado é muito mais rápido e barato do que um LLM auto-hospedado.