# Adicionando recurso de Busca Semântica para o nosso site discourse hospedado por nós

**URL:** <https://meta.discourse.org/t/adding-semantic-search-feature-for-our-self-hosted-discourse-site/355630>\
**Category:** Product Support\
**Tags:** ai, ai-search\
**Created:** [Março 4, 2025, 11:35am UTC](https://meta.discourse.org/t/adding-semantic-search-feature-for-our-self-hosted-discourse-site/355630 "2025-03-04T11:35:56Z")\
**Posts on this page:** 1\
**Showing post:** 4

<div class="post-metadata">

**Author:** ![Falco](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/falco/32/179432_2.png) [@Falco](https://meta.discourse.org/u/Falco)\
**Post date:** [Março 5, 2025, 4:45pm UTC](https://meta.discourse.org/t/adding-semantic-search-feature-for-our-self-hosted-discourse-site/355630/4 "2025-03-05T16:45:02Z")

</div>

> [@Ajay26](#):
>
> Você pode me dar uma ideia dos requisitos para hospedar um modelo como “mistralai/Mistral-7B-Instruct-v0.2” localmente e na nuvem, também para um site de nível empresarial, por favor.

Não há nada específico do Discourse aqui, então as regras padrão se aplicam. Um modelo de 7B, se executado usando fp16, consumirá ~14GB de VRAM mais o espaço para o contexto. Você pode usar quantização fp8 para reduzir isso pela metade, mas esse modelo antigo não é o melhor para isso.

> [@Ajay26](#):
>
> E também não consigo encontrar nenhum tokenizador para este modelo no painel de administração.

Como não é viável enviar todos os tokenizadores possíveis, você deve escolher o mais próximo entre os tokenizadores disponíveis.

---

_[View the full topic](https://meta.discourse.org/t/adding-semantic-search-feature-for-our-self-hosted-discourse-site/355630)._