حوالي 5 دولارات كحد أدنى من تكاليف الكهرباء الإضافية شهريًا لوحدة معالجة الرسومات (GPU) في وضع الخمول - على الرغم من أنه في الواقع، فإن التكلفة الإضافية للنقاش هي صفر نظرًا لأنني أقوم بتشغيل نموذج اللغة الكبير (LLM) بالفعل لأغراض أخرى.
ولكن بالتأكيد، سيكون من الأكثر اقتصادًا للمنتديات الصغيرة والاستخدام المنخفض استخدام نموذج لغوي كبير (LLM) كخدمة. على الرغم من أنه بالنسبة لحجم العرض المستضاف لـ Discourse، أشك في أنه قد يكون من المنطقي الاستضافة داخليًا (وتطوير المعرفة في هذا المجال الذي من المحتمل أن يكون مهمًا).