Estou em um servidor com 16 GB de Memória / 4 vCPUs Intel. Usando Open AI text-embedding-3-small.
A utilização da CPU geralmente fica em torno de 50% ou menos. Foi assim que ficou quando ativei a busca semântica. Existem cerca de 2,5M de posts e 250K tópicos. Eu não ativei os embeddings para PM, caso contrário, adicionaria mais 1M de posts e 100K tópicos.
