Discourse AI - Embeddings

Sí.

Sí, cada modelo produce representaciones vectoriales diferentes.

Básicamente, es una llamada por tema, por lo que es muy fácil de calcular.

Si la mayoría de tus temas son largos, se truncarán a 8k tokens, de lo contrario, usarán la longitud de tu tema.

Sí.

Ambos funcionan a nivel de tema, por lo que uno por tema.

2 Me gusta

¿Puedo saber cómo agregar correctamente las gemas sin bifurcar el plugin con la PR sugerida?

Estoy probando la función de escalado a cero en HuggingFace y solo necesito usar la tarea de rake para rellenar las incrustaciones.

¿Por qué devuelve el código de error 418 cuando uso la búsqueda completa de incrustaciones de Discourse AI en DiscourseAi::Embeddings::EmbeddingsController#search como JSON? ¿Podrías ayudarme?

Se dividieron 3 publicaciones en un nuevo tema: Problema de incrustaciones de Gemini después de la actualización de Discourse a 3.6.0 Beta 2

2 publicaciones se dividieron en un nuevo tema: Gemini API Embedding Configuration Clarification

¿Se puede usar Deepseek como proveedor? ¿Qué modelo?
¿Cómo puedo estimar el costo de la creación, ya que tengo una base de datos bastante grande (14,3 GB)?

Se puede utilizar cualquier modelo que exponga la API compatible con OpenAI.

El número de temas públicos multiplicado por las dimensiones del modelo de embedding y por 16 para los datos en bytes, más el número de temas multiplicado por las dimensiones y dividido entre 8 para el índice.

2 Me gusta