Discourse AI - страница настроек большой языковой модели (LLM)

[Saif (Saif Murtaza)]

@AquaL1te

Есть ли также тема, которая даёт общее представление о лучшем соотношении цены и качества? Или даже о том, какой LLM можно использовать бесплатно для небольшого сообщества и базового функционала? Я мог бы углубиться в детали и поэкспериментировать, но у меня немного не хватает времени.

У нас есть эта тема, которая, возможно, именно то, что вы ищете.

What LLM to use for Discourse AI?

It’s important to understand the needs of you as the community admin and your members when choosing a Large Language Model (LLM) to power Discourse AI features. Several factors may influence your decisions: Performance for use-case: Are you looking for the best-performing model? Performance can vary depending on the task (e.g., summarization, search, complex reasoning, spam detection). Assessment is based on the model’s ability to generate correct, relevant, and coherent responses. Context le…