Página de configuraciones de Discourse AI - Large Language Model (LLM)

[Saif (Saif Murtaza)]

@AquaL1te

¿Hay también un tema que ofrezca un resumen general del mejor equilibrio costo/calidad? ¿O incluso qué LLM se puede usar de forma gratuita para una comunidad pequeña y funcionalidad básica? Puedo profundizar en los detalles y experimentar. Pero tengo un poco de prisa.

Tenemos este tema, que podría ser lo que buscas.

What LLM to use for Discourse AI?

It’s important to understand the needs of you as the community admin and your members when choosing a Large Language Model (LLM) to power Discourse AI features. Several factors may influence your decisions: Performance for use-case: Are you looking for the best-performing model? Performance can vary depending on the task (e.g., summarization, search, complex reasoning, spam detection). Assessment is based on the model’s ability to generate correct, relevant, and coherent responses. Context …