تقدير تكلفة تمكين Discourse AI للمحتوى والبحث ذي الصلة

[NateDhaliwal]

@SubStrider

بالنسبة لنماذج اللغة الكبيرة المستضافة ذاتيًا، ما هو تكوين الخادم النموذجي/التكلفة المطلوبة؟

أعتقد أنه ستحتاج إلى وحدة معالجة رسومات من الأفضل استخدام وحدة معالجة رسومات إذا كنت ترغب في الاستضافة الذاتية. تحقق من أشياء مثل Ollama.

انظر أيضًا:

Estimating costs of using LLMs for Discourse AI

In order to use certain Discourse AI features, users are required to use a Large Language Model (LLM) provider. Please see each AI feature to determine which LLMs are compatible. If cost is a significant worry, one way to combat that is to set usage limits right from the vendor and use a monthly budget. Another option is to only let select users and groups access the AI features There are several variable factors to consider when calculating the costs of using…