سأقوم بشرح تكامل Discourse AI للفريق الأسبوع المقبل. لدينا بالفعل بعض مفاتيح واجهة برمجة التطبيقات (API)، ولكنها جميعًا لحسابات مدفوعة.
أنا متأكد من أنني سأُسأل: هل هناك أي ميزات يمكن دمجها ويمكن استخدامها مجانًا؟ هذا لمدرسة ونحن متأكدون من أن الطلاب قد يرغبون في استخدام كل شيء، ولكن التكاليف ستكون باهظة.
شكرا
إعجابَين (2)
لا. إنه ليس مجانيًا.
في الواقع، Llama3 مجاني، ولكن على حد علمي، يتطلب تشغيله جهاز كمبيوتر بقيمة 300 ألف دولار.
إذا كانت لديك بعض الميزانية، يمكنك إعداده بحيث تدفع هذا المبلغ شهريًا لأي خدمة تريد الدفع مقابلها، وعندما ينفد المبلغ للشهر، ينفد للشهر. ستحاول إعداد حدود حتى لا يحدث ذلك في الأسبوع الأول (أو اليوم). سيكون من الصعب إعداده بحيث يمكن للمعلمين الذين يرغبون في استخدامه كجزء من الفصل الاعتماد عليه.
4 إعجابات
كمدرسة، ربما يمكنك التسجيل للحصول على أرصدة تعليمية مجانية على خدمات مثل AWS أو Azure أو GCP واستخدامها لتشغيل ميزات Discourse AI.
7 إعجابات
شكرًا، هذا ما خططت لإخبارهم به. إنه ليس مجانيًا. الخطة حاليًا هي الاستمرار في استخدام مثيلات محلية من Gpt4All و LmStudio.
3 إعجابات
للفائدة، يمكنك تشغيل الإصدار 70b من Llama3 ضمن 48 جيجابايت من ذاكرة الفيديو العشوائية (VRAM) والتي يمكنك الحصول عليها بسهولة نسبيًا من زوج من بطاقات Nvidia RTX 3090 المستعملة من eBay بحوالي 750 دولارًا أمريكيًا لكل منها. أتوقع أن بناء بقية النظام لدعم ذلك سيصل إلى حوالي 3000 دولار أمريكي تقريبًا. 
5 إعجابات
هذا تحسن بمقدار 100 مرة! يمكنني تخيل مدرسة لديها هذا القدر من المال، لكن لدي خيال جيد جدًا.
شكرًا جزيلاً على ذلك. أنا في الغالب لا أفهم متطلبات الأجهزة.
3 إعجابات
يمكنك النظر إلى هذا بطريقة مختلفة.
لماذا لا تجرب استخدام الذكاء الاصطناعي وتراقب لوحات معلومات التكاليف لمدة شهر؟ ثم قرر ما إذا كنت تريد المتابعة.
في الأشهر الـ 12 الماضية وحدها، انخفضت تكلفة النماذج القادرة كثيرًا.
نموذج gpt4o-mini من OpenAI قادر جدًا ورخيص جدًا الآن (لكن كل شيء نسبي).
5 إعجابات
حسنًا، لقد خذلتني “ميني” في كل مرة. ولكن هذا يستحق موضوعًا آخر في مكان آخر.
إعجابَين (2)
نعم، قد يعتمد الأمر أيضًا على اللغة.
إعجابَين (2)
Gemini Flash رخيص جدًا وواجهة برمجة تطبيقات DeepSeek رخيصة جدًا لدرجة أنها مجانية تقريبًا.
إذا كنت بحاجة إلى التشغيل محليًا، يمكنك بناء جهاز بتكلفة أقل من 1000 دولار يمكنه تشغيل نماذج Llama. لقد قمت ببناء جهاز 4xP100 مقابل 1000 دولار يحتوي على 64 جيجابايت من ذاكرة الفيديو. ولكن جهاز 2xP40 بذاكرة فيديو 48 جيجابايت سيكون كافيًا لتشغيل Llama 70B ويمكن بناؤه مقابل 600 دولار إذا اشتريت قطع غيار مستعملة.
لتحقيق أقصى قدر من الرخص، يمكنك التشغيل على وحدة معالجة رسومات P40 واحدة مع تكميم AQLM، ولكن هذا سيكون بطيئًا جدًا (حوالي 1 رمز/ثانية).
3 إعجابات
ليس لديهم مال
من المثير للاهتمام أن لا أحد يأخذ في الاعتبار تكاليف الكهرباء لجميع هذه الحلول المستضافة ذاتيًا. أعتقد أن هذه فاتورة واحدة موحدة لا يمكن تتبعها إلى جهاز معين على أي حال…
5 إعجابات
لقد تطرقت للتو إلى موضوع ذكره صديق يعمل في شركة مرافق في اليوم الآخر كنتيجة للعمل عن بعد. وحدات التكييف والتدفئة تعمل الآن على مدار الساعة لأن الناس يضطرون إلى استخدامها دون توقف. وكانت النتيجة فواتير مرافق فلكية للكثيرين.
إعجاب واحد (1)
ملاحظة، تتضمن خطط Discourse المستضافة المواضيع ذات الصلة مدرجة في الخطة. يتم تشغيل هذا بواسطة تضمينات الذكاء الاصطناعي.
يوفر بعض المزودين مثل Cloudflare طبقة مجانية بكمية سخية من الاستخدام للمستضيفين الذاتيين.
4 إعجابات
This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.