Discourse AI - Embeddings

Sim.

Sim, cada modelo produz representações vetoriais diferentes.

É basicamente uma chamada por tópico, então é muito fácil de calcular.

Se a maioria dos seus tópicos for longa, eles serão truncados para 8 mil tokens, caso contrário, eles usarão o comprimento do seu tópico.

Sim.

Ambos funcionam no nível do tópico, então um por tópico.

2 curtidas

Posso saber como adicionar corretamente as gems sem fazer um fork do plugin com o PR sugerido?

Estou testando o recurso de scale-to-zero no HuggingFace e só preciso usar a tarefa rake para preencher embeddings.

Por que retorna o código de erro 418 ao usar a pesquisa completa de embeddings de IA do Discourse em DiscourseAi::Embeddings::EmbeddingsController#search como JSON? Você pode me ajudar?

3 posts foram divididos em um novo tópico: Problema de incorporações do Gemini após atualização do Discourse para 3.6.0 Beta 2

2 posts foram divididos em um novo tópico: Gemini API Embedding Configuration Clarification

O Deepseek pode ser usado como provedor? Qual modelo?
Como estimar o custo de criação, já que tenho um banco de dados bastante grande (14,3 GB).

Qualquer modelo que exponha a API compatível com a OpenAI pode ser usado.

Número de tópicos públicos vezes as dimensões do modelo de incorporação vezes 16 para os dados em bytes, mais o número de tópicos vezes as dimensões dividido por 8 para o índice.

2 curtidas