ما الذي يعطي النتيجة الأكثر معقولية: وحدة المعالجة المركزية أم ذاكرة الوصول العشوائي؟

أعلم أن أسئلة مثل ما هو الكثير أو هل إيماكس أفضل من في، عندما يكون هناك نانو صعبة ومستحيلة الإجابة، ولكن مع ذلك.

أفكر في إنشاء قطرة جديدة في DigitalOcean فقط بسبب هذه الأشياء المتعلقة بالذكاء الاصطناعي. لذا، أي منها يعطي أفضل نسبة مال/فائدة لمنتدى ذي حركة مرور منخفضة جدًا بأموال قليلة جدًا، وعندما يكون الهدف هو 16 جيجابايت من ذاكرة الوصول العشوائي:

  • أساسي، 112 يورو — 8 نوى إنتل أو AMD
  • عام، 126 يورو — 4 نوى
  • مُحسَّن لوحدة المعالجة المركزية، 168 يورو — 8 نوى إنتل عادية
  • مُحسَّن للذاكرة، 84 يورو — نواتان

(الدولار الأمريكي يكاد يكون نفس اليورو في الوقت الحاضر)

مرة أخرى — لا أعرف شيئًا — ولكن لأن Discourse هو تطبيق يعتمد على العميل أو شيء من هذا القبيل، وهو مختلف تمامًا عن WordPress المستند إلى PHP، فإنه لا يحتاج إلى الكثير من قوة وحدة المعالجة المركزية، أم أنني ضائع تمامًا؟ ولكن حلول الذكاء الاصطناعي تغير ساحة اللعب هذه تمامًا وتحتاج إلى ذاكرة وصول عشوائي ووحدة معالجة مركزية؟

والسؤال الفعلي والحقيقي، بالطبع: ما هي الحد الأدنى للتكاليف إذا أراد المرء، على سبيل المثال، كتلة المواضيع ذات الصلة؟

المشكلة الرئيسية في ميزة الذكاء الاصطناعي “المواضيع ذات الصلة” هي أنه يتعين عليك إنشاء تضمينات لجميع مواضيعك الحالية. في المنتديات الكبيرة، يستغرق هذا بعض الوقت، وهو الجزء “المكلف” من العملية. ومع ذلك، تحتاج فقط إلى تشغيل هذا مرة واحدة، لذا يمكنك الاستفادة من المثيلات بالساعة للدفع بالحد الأدنى هنا.

استغرق إنشاء التضمينات لـ Meta حوالي ساعة واحدة. لذا، يمكنك، على سبيل المثال، الحصول على خادم افتراضي خاص مزود ببطاقة NVIDIA A100 كاملة لمدة ساعة لتشغيله ودفع أقل من 3 دولارات!

بعد أن تكون جميع هذه التضمينات قد تم إنشاؤها بالفعل، تحتاج فقط إلى إنشاء تضمينات جديدة للمواضيع الجديدة والمعدلة، وهناك يمكنك على الأرجح الاعتماد على الاستدلال المستند إلى وحدة المعالجة المركزية.

لذا، لنفترض أن لديك الآن:

  1. خادم واحد في Digital Ocean يعمل بنظام Discourse

خلال الملء الخلفي، يمكنك الحصول على:

  1. خادم واحد في Digital Ocean يعمل بنظام Discourse
  2. خادم واحد في Digital Ocean يعمل بنظام PostgreSQL لتخزين التضمينات
  3. خادم افتراضي خاص في Vultr لحساب التضمينات بسرعة

بعد الملء الخلفي، يمكنك تغييره إلى:

  1. خادم واحد في Digital Ocean يعمل بنظام Discourse
  2. خادم واحد في Digital Ocean يعمل بنظام PostgreSQL لتخزين التضمينات والآن أيضًا خدمة التضمينات

بالنسبة لحجم الخادم لـ 2، قد يكون خادم صغير بذاكرة وصول عشوائي (RAM) بسعة 4 جيجابايت كافيًا، يجب التحقق من مقدار ذاكرة الوصول العشوائي (RAM) التي تستخدمها حاوية خدمة التضمينات.

إعجابَين (2)

عليك أن تتساءل عما إذا كانت هناك طريقة لتعبئة هذه الخدمة مع لعبة على Steam واستخدام Geforce Now للقيام بالعمل :rofl:

إعجابَين (2)

هذا لا يبدو سيئًا في الواقع. كنت أتوقع شيئًا أغلى بكثير، بمعنى ذاكرة الوصول العشوائي ووحدة المعالجة المركزية.

ماذا ستقول… هذه الحزمة بأكملها لا تزال قيد التطوير، لذلك هل يجب أن أنتظر لفترة أطول قبل القفز إلى الأعماق؟ :wink:

إعجاب واحد (1)

نحن نعمل بنشاط على ذلك وسنجري الكثير من التغييرات عليه في الأسابيع القادمة بينما نقوم بتشغيل هذا المكون الإضافي لعملائنا من الشركات ونحصل على ملاحظاتهم.

ومع ذلك، فإن إنفاق أقل من 10 دولارات لتجربة هذا وتوفير هذه الميزة لمجتمعك والقدرة على تقديم ملاحظات مبكرة يبدو صفقة رائعة بالنسبة لي، ولكنه يعتمد على قيود أموالك ووقتك.

أحد الأشياء التي نعرف أنها ستحدث هو أننا في الوقت الحالي نستخدم OP فقط في تضمينات الموضوعات ذات الصلة، وسنجرب تمرير OP والردود التي يمكن أن تتناسب بدلاً من ذلك، مما يعني الحاجة إلى إعادة إنشاء جميع التضمينات مرة أخرى. سيكلفك ذلك 3 دولارات و ساعة واحدة من وقتك مرة أخرى.

إعجابَين (2)

This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.