ارتفاع استخدام القرص أثناء النسخ الاحتياطي، تعطل Discourse بشدة :-(

هذا الصباح حوالي الساعة 5:35 صباحًا، ارتفع استخدام القرص في منتدياتي فجأة وانهارت، مما أدى إلى انقطاعها تمامًا عن الخدمة. اضطررت إلى تغيير حجم صورة Digital Ocean لإعادة تشغيلها. أوه، يا إلهي.

إليك استخدام القرص خلال الـ 24 ساعة الماضية:

السؤال: ما نوع السجلات أو تحليل ما بعد الحادث الذي يمكنني مراجعته لمحاولة معرفة ما حدث بالضبط؟! لقد تفحصت السجلات في لوحة تحكم Discourse، لكن لا توجد هناك أي أدلة… فهي تتوقف فقط عندما ينهار الموقع ثم تعود فورًا عند عودته إلى الخدمة.

ابدأ بتحديد الدليل الذي يسبب المشكلة. نهجي القياسي هو الدخول إلى /var/discourse ثم تشغيل du -h -d 1. خذ الدليل الأكبر حجمًا، ادخل إليه وكرر العملية حتى تجد المشتبه به. بمجرد العثور عليه، قد يمنحك ذلك تلميحًا حول ما يحدث.

ربما نسخة احتياطية تلقائية؟

نعم، تُعد النسخ الاحتياطية مصدرًا شائعًا لهذا النوع من الأعطال - كيف يبدو استخدام القرص خلال نافذة زمنية مدتها 7 أيام؟

لاحظ أيضًا أن التحميلات المحلية مدرجة في هذه النسخ الاحتياطية، لذا إذا كان هناك زيادة كبيرة في التحميلات حول الساعة 18:00، فإن ذلك سيزيد أيضًا من حجم أرشيف النسخة الاحتياطية.

حسناً. لقد كنت أقوم بنقل الملفات من S3 وإعادتها إلى الخادم المحلي، لكن العملية تبدو وكأنها تعمل مباشرة، حيث يتم نقل بضع مئات من الصور فقط (بحجم حوالي 300 كيلو بايت لكل منها) في كل دفعة، أي ما يعادل حوالي 0.1 جيجابايت لكل مجموعة. خلال الأسبوع الماضي، ربما قمت بتشغيل السكربت 20 مرة، أي 20 دفعة = حوالي 2 جيجابايت من مساحة القرص الإجمالية. وهو ما كان لدي مساحة كافية له.

هل من الممكن أنه على الرغم من أن السكربت يبدو وكأنه ينقل الملفات مباشرة (بتحميلها من S3 ثم رفعها فوراً إلى Digital Ocean)، إلا أنه قد يكون هناك نوع من التأخير في وظيفة مرقّبة تم تفعيلها الساعة 5:30 صباحاً، تتعلق بنقل تلك الصور؟

(أيضاً: كنت أقوم بتشغيل هذه الدفعات يدوياً حتى الساعة 9 مساءً، لذا، حسب علمي، كان الخادم يقوم بعملياته العادية من الساعة 9 مساءً حتى الساعة 5:30 صباحاً عندما تعطل.)

إليك استخدام القرص لمدة 7 أيام. كان يتزايد بشكل منتظم بسبب استيراد الصور، لكن يمكنك أن ترى كيف ارتفع إلى 100% عند الساعة 5:30 صباحاً:

هل توجد أي ملفات سجل قد تحتوي على أدلة حول ما حدث في الساعة 5:35 صباحاً، بخلاف ملفات السجل التي أراها في تبويب ‘السجلات’؟

هممم. تم ضبط نسخاتي الاحتياطية للذهاب إلى S3 كل يومين، لكن لا يوجد شيء منذ التاسع؟

عرض “النسخ الاحتياطية” في Discourse

عرض Amazon S3

بالمناسبة، بعد رؤية ما سبق، نقرت على الزر في Discourse لتحفيز إنشاء نسخة احتياطية. استغرق الأمر 28 دقيقة وبدا أنها تعمل بشكل جيد؛ أرى الآن ملف .tar.gz هذا في عرض النسخ الاحتياطية في كل من Discourse و Amazon S3. إذن لماذا لا يتم تحفيز النسخ الاحتياطية التلقائية الخاصة بي؟! أراااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااااا

أنا في حيرة… لا يبدو أن أيًا من هذه المجلدات كبير بشكل خاص:

root@x-app:/var/www/discourse# du -h -d 1

3.5M	./lib
104K	./bin
8.0K	./.tx
148M    ./public
8.0K	./.bundle
14M     ./plugins
4.3M	./db
4.0K	./log
532M	./tmp
8.9M	./spec
17M     ./config
556M	./vendor
8.0K	./images
329M	./.git
2.0M	./script
80K	    ./docs
2.5M	./test
16K	    ./.github
17M	    ./app
1.6G	.

وحتى عند النظر إلى مساحة القرص الإجمالية داخل حاوية Docker، فإنها ليست بنفس الحجم الذي كانت عليه سابقًا. كان لدي خادم سحابي (Droplet) من DigitalOcean بسعة 80 جيجابايت، وهذا هو ما وصل إلى 100%. لذا قمت بتغيير حجمه إلى 160 جيجابايت، أي ضاعفته. نظريًا، هذا يعني أن أحد هذه المجلدات يجب أن يكون عند 50%، أليس كذلك؟

root@x-app:/var/www/discourse# df -h

Filesystem      Size  Used Avail Use% Mounted on
overlay         155G   58G   98G  38% /
tmpfs            64M     0   64M   0% /dev
tmpfs           3.9G     0  3.9G   0% /sys/fs/cgroup
shm             512M  2.6M  510M   1% /dev/shm
/dev/vda1       155G   58G   98G  38% /shared
tmpfs           3.9G     0  3.9G   0% /proc/acpi
tmpfs           3.9G     0  3.9G   0% /proc/scsi
tmpfs           3.9G     0  3.9G   0% /sys/firmware

لديك مؤشرات تقترب من 100% كل ليلة تقريبًا — يبدو أن هذه المرة هي التي دفعتك إلى حافة الهاوية. أتوقع أن النسخ الاحتياطية السابقة فشلت بسبب نفاد المساحة أثناء إنشاء ملف النسخ الاحتياطي المحلي المرسل إلى S3، لكنها فشلت فقط دون أن تعطل المنتدى الخاص بك. لقد لاحظت أخيرًا عندما جعل نفاد المساحة PostgreSQL غير مستقر (أو Redis، أو أي شيء آخر، فهذا ليس مهمًا حقًا) في التوقيت المناسب تمامًا لإسقاط المنتدى الخاص بك.

(مع وجود ما يقرب من 100 جيجابايت من الصور على خادمي، أقوم بنسخ احتياطي مجدول لـ Discourse دون تضمين الملفات المرفقة، لكن مع تضمين الصور المصغرة. ثم أقوم بنسخ احتياطي خارجي قائم على الملفات لمجلد النسخ الاحتياطي أولاً، ثم لمجلد الملفات المرفقة ثانيًا. لقد اختبرت هذه العملية للاستعادة؛ وكانت أساس عملية هجرة موقع قمت بها العام الماضي. تخزين ملفات tar بحجم 100 جيجابايت كل ليلة سيكون أمرًا مجنونًا.)

أها، إذن تلك الذرات الصغيرة هي محاولة من Discourse لعمل نسخة احتياطية! هذا يوضح بعض الأمور.

إذن، إليك مخطط الأيام السبعة الماضية مرة أخرى.

ربما ما نراه هو:

  1. على مدار الأسبوع الماضي، حاولت Discourse عدة مرات عمل نسخة احتياطية. تستهلك هذه العملية مساحة تخزين مؤقتة كبيرة، وفي كل مرة حاولت فيها، نفدت المساحة المتاحة، لذا لم تنجح أي من تلك النسخ الاحتياطية.

  2. ثم عندما حاولت مرة أخرى عمل نسخة احتياطية الليلة الماضية، تقدمت أكثر، لكن للأسف تسببت في تعطل الموقع.

هذا يبدو منطقياً لأن آخر نسخة احتياطية ناجحة كانت في 9 يوليو. لذا انتظرت يومين (حسب إعداداتي) وحاولت مرة أخرى في 11 يوليو. فشلت هذه المحاولة، فانتظرت 24 ساعة وحاولت مرة أخرى في 12 و13 و14 يوليو، وهي المحاولة الفاشلة التي تسببت في المشكلة.

إذا كان هذا ما حدث، فسأحب أن أرى:

  1. إشعارات أفضل من Discourse عند فشل النسخة الاحتياطية.

  2. ربما يجب أن تقوم Discourse تلقائياً بـ “فشل” النسخة الاحتياطية (مع إنشاء إشعار) إذا كانت مساحة التخزين الحرة أقل من نسبة معينة (مثلاً 10%) عند بدء العملية. بحيث لا تبدأ العملية أصلاً إذا كانت مساحة التخزين ضيقة بالفعل.

بالمناسبة، إذا كان هذا بالفعل ما حدث، فإن النظر إلى أول نسخة احتياطية فاشلة في 11 يوليو يُظهر أن هناك مساحة حرة تبلغ حوالي 40% (وهو ما يعادل حوالي 32 جيجابايت!!!)، لكن هذا لم يكن كافياً لإكمال النسخة الاحتياطية بنجاح. هل هذا صحيح؟! لماذا تحتاج Discourse إلى مساحة عمل أو مساحة مؤقتة تبدو هائلة عند إنشاء نسخة احتياطية؟

لم يتقدم بالضرورة أكثر من ذلك الليلة الماضية؛ لقد فقط “خسرت السباق” — فما يحدث عندما تنفد المساحة يعتمد على المكون الأول الذي يتأثر بالمشكلة.

إذا فشل في عمل نسخة احتياطية، فأنا أتوقع أنه قد يحاول إرسال رسالة، لكن إذا نفدت مساحة القرص، فقد لا ينجح في ذلك. :scream:

النسبة المئوية الثابتة لا تخبرك بالكثير؛ فقد تكون قاعدة البيانات صغيرة جدًا مقارنة بالملفات المرفوعة، أو العكس، وهناك متغيرات تتعلق بما إذا كانت الصور المصغرة مشمولة وما إذا كانت الملفات المرفوعة مشمولة. أرى أنه يمكن جعل شرط المساحة الحرة قابلًا للتكوين حتى تتمكن من ضبطه حسب موقعك، أعتقد ذلك.

لا أعرف كيف تحكم على كلمة “مفرط” — فلا يبدو لي أنه مفرط.

منطقي تمامًا؛ كما توضح، هناك العديد من المتغيرات المؤثرة.

أوه، الطريقة “الصحيحة” لتنفيذ ذلك هي حساب مقدار المساحة التي يعتقد أنها ستحتاجها للنسخ الاحتياطي، وهكذا. ولكن للحفاظ على البساطة القصوى، نعم، مجرد نسبة مئوية ثابتة. أنا أفكر فقط… إذا كانت الخيارات هي “قد ينهار موقعك تمامًا وينقطع عن الإنترنت” أو “إليك إصلاح سريع وغير مثالي للمشكلة”، فسأختار الخيار الثاني، شكرًا لك. :wink:

وبمناسبة الشكر، شكرًا لك أنت أيضًا على كل مساعدتك في عملية الهجرة وأفكارك حول هذا الموضوع. :+1:t2:

تقدير المساحة المطلوبة للنسخ الاحتياطي يُعدّ أحد المشكلات الصعبة في علوم الحاسوب… إنه قريب بعيد من شريط التقدم. :wink:

بجدية تامة، جزء من ذلك هو تصدير قاعدة بيانات، ولا أعرف كيف يمكن تقدير ذلك مسبقًا. إذا كان لديك عدد كبير من الصور بحيث تصبح المساحة مشكلة، فإن تضمينها في أرشيفات النسخ الاحتياطي يُعدّ على الأرجح خارج الممارسات السائدة.

عادةً، عندما يتعلق الأمر بإدارة الأنظمة، فإن مراقبة المساحة الحرة وصحة النسخ الاحتياطي كانت عبئًا إداريًا وليس عبئًا على التطبيق. هذا جزء مما يدفعه الناس عندما يدفعون لـ CDCK لاستضافة منصة Discourse الخاصة بهم.

هناك طرق عديدة أخرى لنفاد المساحة. أعرف أنك تركز على المشكلة التي واجهتها، لكن المشكلة أعم من ذلك، وأعتقد أن هذا الأمر يُعالج عادةً كعبء إداري.

لا أريد أن أفسد هذا الاحتفال، ولكن في الواقع، ومن خلال قراءة المنشورات، لا يوجد تأكيد قاطع على أن عملية نسخ احتياطي Discourse هي المسبب للمشكلة.

لماذا لا نتأكد بنسبة 100% من أن هذه المشكلة ناتجة عن عملية النسخ الاحتياطي اليومية؟ فهناك أكثر من عملية تعمل يوميًا عبر ملفات crontab على المضيفين.

هل قام @pnoeric بتشغيل أمر du على نظام الملفات /var/discourse (خارج الحاوية)؟

في ملاحظاتك، كتب @pnoeric:

root@x-app:/var/www/discourse# du -h -d 1

لكن هذا الأمر أغفل تمامًا المجلد المشترك الخاص بـ Discourse الذي يتضمن جميع النسخ الاحتياطية والملفات المرفقة! كما أغفل جميع ملفات Docker (والصور) على المضيف (والتي يمكن أن تكبر حجمًا إذا لم يتم تقليم الصور بمرور الوقت).

المكان الصحيح لتشغيل هذا الفحص هو خارج الحاوية (وليس داخلها!):

على سبيل المثال (خارج الحاوية):

cd /var/discourse 
/var/discourse# du -sh *
4.0K	bin
4.0K	cids
56K	containers
12K	discourse-doctor
24K	discourse-setup
164K	image
24K	launcher
4.0K	LICENSE
12K	README.md
24K	samples
8.0K	scripts
62G	shared
148K	templates

كما ترون، على هذا المضيف، المجلد المشترك هو 62 جيجابايت.

وكذلك من مجلد /var في نظام الملفات (خارج الحاوية):

cd /var
# du -sh *
511M	cache
20K	composetest
62G	discourse
1.6G	docker
8.0K	legacy
52G	lib
4.0K	local
0	lock
4.0K	locks
5.7G	log
24K	logs
64K	mail
4.0K	opt
4.0K	registry
4.0K	shared
1.9M	spool
48K	tmp
25G	 linux_app
2.2G	www

لستُ أحاول إفساد هذا الاحتفال، ولكن قبل الخروج واقتراح العديد من “الإصلاحات” لـ Discourse، سيكون من الجيد جدًا التأكد بنسبة 100% من أن عملية النسخ الاحتياطي اليومية (cron) لـ Discourse هي المشكلة الفعلية.

لم نواجه أي مشكلة مع عملية النسخ الاحتياطي الحالية لـ Discourse، بالإضافة إلى ذلك، فإن إدارة نظام الملفات على المضيف ليست مهمة خاصة بـ Discourse بحد ذاتها.

هنا:

du

Filesystem     1K-blocks      Used Available Use% Mounted on
udev            32892500         0  32892500   0% /dev
tmpfs            6584232      2136   6582096   1% /run
/dev/md2       470927632 215969956 230966124  49% /
tmpfs           32921160         0  32921160   0% /dev/shm
tmpfs               5120         0      5120   0% /run/lock
tmpfs           32921160         0  32921160   0% /sys/fs/cgroup
/dev/md0          482922     75082    382906  17% /boot
/dev/sda1         244988      4636    240353   2% /boot/efi
tmpfs            6584232         0   6584232   0% /run/user/1000
overlay        470927632 215969956 230966124  49% /var/lib/docker/overlay2/0f8be368b0154285423630ad50148ee2d5fdcb357c46125eafa7374ca34ef29a/merged
shm               524288      1620    522668   1% /var/lib/docker/containers/ca7b55fc5a0c123f7b2b1234ea210aa8286a34167cba9344b7929547bd323c9b/mounts/shm
overlay        470927632 215969956 230966124  49% /var/lib/docker/overlay2/7cd7e8b5b35b496eaed68753cc995e9303499a24721062055e2f06beb07e26c8/merged
shm                65536         0     65536   0% /var/lib/docker/containers/3cc0c90c3e3a5db6692e7b5d21727fbb1c13c8e07e48e4f6d954214fc03694a9/mounts/shm
overlay        470927632 215969956 230966124  49% /var/lib/docker/overlay2/31533fdf68033eed96dab4f9df89025ea3dab172ed48b6ce6431840a8df1c8ea/merged
shm               524288         0    522668   0% /var/lib/docker/containers/631fbabedda9a430dd8204ec66fb45c7514d948025124171b960ea424e28d5d4/mounts/shm
overlay        470927632 215969956 230966124  49% /var/lib/docker/overlay2/7a3ba2223ee93bc868b52b3707799d0fd7b4ca6dcc0df29f20c2c98a53903ff1/merged
shm                65536         0     65536   0% /var/lib/docker/containers/7a145366268c8ac5543a4555dc1bfc63c1e85a654e4c793e96fc2cc2e8514388/mounts/shm
overlay        470927632 215969956 230966124  49% /var/lib/docker/overlay2/add4bdd7bd88df7a0e05dff21896d3ef796f7cf2ff9759e0bb04b1953f16cd95/merged
shm                65536         0     65536   0% /var/lib/docker/containers/123743e122089b94660a6bdd2a9e55055ad91b6f75cce4ac760f36066bcf14d0/mounts/shm
overlay        470927632 215969956 230966124  49% /var/lib/docker/overlay2/b376ff32eaac0c58463e8b99b6db9ec0da3405c3f7a9f00b5430f10e07d372b0/merged
shm               524288         0    524288   0% /var/lib/docker/containers/63c52bc571b5f0d2544417da10efc37d3957e7a38f44bc8325145e795ee29559/mounts/shm

لنلقِ نظرة على ملفات Docker:

# cd /var/lib
# du -sh docker
30G	docker

وتم تقليم وتنظيف صور Docker لدينا بانتظام.

اقترح @bartv بشكل صحيح البدء من هنا:

سأبدأ بفهم أي مجلد هو المسؤول عن هذا التضخم. نهجي القياسي هو الدخول إلى /var/discourse ثم تشغيل du -h -d 1. خذ أكبر مجلد، ادخل إليه وكرر العملية حتى تجد المشتبه به. بمجرد العثور عليه، قد يعطيك ذلك تلميحًا عما يحدث.

هذا بداية جيدة، ولكن قد يكون هناك العديد من الأماكن الأخرى على نظام الملفات المضيف التي يمكن أن تملأ النظام، بما في ذلك Docker، وملفات النواة (core files)، وما إلى ذلك.

الرسم البياني الذي يظهر ارتفاعًا في النسبة المئوية مرة واحدة يوميًا لا يكفي للقول، بسلطة، أن عملية النسخ الاحتياطي اليومية (cron) لـ Discourse هي السبب الجذري. قد تكون كذلك، ولكنها قد لا تكون كذلك، بناءً على الأدلة حتى الآن!

هذا رائع. سأجرب كل ما ذكرته. شكرًا لك.

نعم، هذا بوضوح نسخة احتياطية.

لا، هناك الكثير من التأكيدات: توجد طفرات في الاستخدام كل يومين باستثناء حالة واحدة، وتكرار النسخ الاحتياطي مضبوط على يومين. كما أن الخبرات السابقة على Meta أظهرت تمامًا نمط الفشل هذا.

نعم، هذه خطة متينة للمضي قدمًا. ومع ذلك، فإن التوصية الأولى للأشخاص الذين يبدأون في الوصول إلى حد مساحة القرص على خادمهم الافتراضي (VPS) هي تخزين الملفات المرفوعة خارج الجهاز باستخدام آلية S3.

بما أن @pnoeric يحاول الانتقال خارج S3 للصور، فإن تخزين نسخ متعددة من جميع الصور في نسخة احتياطية موجودة في S3 لن يحقق هدف الانتقال خارج S3. @pnoeric، هذا يربكني — إذا كنت تريد الانتقال خارج S3 ولكنك تنقل فقط جزءًا من الملفات لأنك تخزن جميع الصور على S3 في نسخ احتياطية متعددة، فما الفائدة؟

في أي حال، كنت أحاول إظهار كيف تبدو البدائل. النسخ الاحتياطي أمر صعب، خاصة إذا كنت ترغب يومًا ما في القدرة على استعادة البيانات من النسخة الاحتياطية.

انتقلت خارج “S3” (مساحات Digital Ocean في حالتي) بعد توفر مساحة خادم كافية وعدم وجود نمو أو حركة مرور هائلة تجعل من المنطقي البقاء على “S3”، لكنني حالة غير عادية، وهو ما يفسر ربما عدم حصولي على أي كلمة مراجعة على طلب السحب (PR) الخاص بي الذي يحل مشكلة تلف البيانات عند الهجرة خارج S3. :stuck_out_tongue: لذا أتوقع أن يكون نظام النسخ الاحتياطي الخاص بي غير عادي للغاية.

حالتي هي أنني أملك عددًا كبيرًا من الصور، مما يعني استهلاكًا كبيرًا لعرض النطاق الترددي أثناء عرض المستخدمين لتلك الصور… لذا، عندما كانت الصور مستضافة على Amazon S3، كان الفاتورة المتعلقة بعرض النطاق الترددي هي ما دمرني. خاصة عندما أدركت أنني أستطيع تخزين جميع الصور على خوادم DO Droplet، وسيتم تضمين ذلك في رسوم عرض النطاق الترددي/التخزين التي أدفعها بالفعل. (في مرحلة ما في المستقبل، قد يكون من المنطقة نقل الأشياء مرة أخرى إلى S3، أو قد يكون من المنطقي أيضًا زيادة حجم Droplet الخاص بـ DO مرة أخرى…)

لذلك بدأت بـ S3، ثم أدركت خطئي. ومن هنا جاءت حالتي الحالية، حيث أستخدم كودك الممتاز لنقل جميع الصور من S3 مرة أخرى إلى DO.

الحفاظ على نسخة احتياطية كاملة (الصور وكل شيء) على S3 قصة مختلفة تمامًا — فهي مخزنة في “تخزين بارد” على S3 ولا يتم الوصول إليها إلا في حال وجود مشكلة. لذا لا توجد فواتير ضخمة لعرض النطاق الترددي.

أيضًا: كنت أفكر أكثر في حالة النسخ الاحتياطي/استخدام القرص. ما زلت أرى أن هناك شيئًا مفقودًا هنا. ربما يكون مجرد رسالة تحذير أو توثيق أفضل. لكن نظام Discourse الخاص بي كان يستخدم فقط 60% من مساحة القرص، بينما كانت نسخي الاحتياطية خارج الموقع تفشل. نوع من التقدير لمساحة القرص المطلوبة، أو تحذير في حال عدم وجود مساحة كافية، أو شيء ما يبدو أفضل مما يحدث الآن عندما لا يكون هناك مساحة كافية، وهو: عدم وجود نسخ احتياطية لعدة أيام، يليه انهيار كامل أدى إلى إيقاف المنتدى تمامًا عن العمل. :-\

(@riking قال حتى إن “النسخ الاحتياطية هي مصدر شائع لهذا النوع من الأعطال.” إذن هل تتعرض مثيلات Discourse لانهيارات منتظمة بسبب فشل النسخ الاحتياطية دون أي تحذير مسبق عن مشكلة محتملة؟)

طريقة أخرى لقول ذلك، ببساطة شديدة، من منظور علوي واسع: يبدو أن هناك عيبًا في التصميم إذا كانت ميزة أساسية من ميزات البرنامج (النسخ الاحتياطي التلقائي) قادرة على إيقاف النظام بالكامل عن العمل. خاصة عندما نتحدث عن ميزة تستخدم فقط مساحة القرص لتحضير النسخ الاحتياطي، وليس حتى لتخزينه على نفس القرص.

لا، كان يقصد أن أخذ نسخ احتياطية عبر أي برنامج على أي خادم قد يؤدي إلى امتلاء القرص وتسبب مشاكل.

بالتأكيد، ولكن هذا هو السبب في أنك تضع شبكة توصيل محتوى (CDN) أمام S3. لا تخدم الصور مباشرة من S3، لأن ذلك سيكون مكلفًا بشكل سخيف :scream:. يمكنك وضع Cloudfront أو حتى CloudFlare أمام S3 بسهولة نسبيًا. ستحقق الطبقة المجانية من CloudFlare هذا الهدف.

كما أن تخزينها محليًا يعتبر أيضًا خبرًا سيئًا جدًا، فستحتاج إلى ترقية خادمك الافتراضي الخاص (VPS) دون داعٍ. وسيكون القرص الصلب المحلي (Local SSD) أكثر تكلفة بكثير.

آه، حسنًا، فهمت الآن.

إذن، كيف يمكنني معرفة مقدار مساحة القرص التي قد يحتاجها Discourse لإعداد نسخة احتياطية؟ البرنامج لا يخبرني بذلك، لذا ربما غدًا ستكون المساحة المطلوبة 500 جيجابايت وسيؤدي ذلك إلى إيقاف خادم Digital Ocean الخاص بي مرة أخرى. :man_shrugging:t2: على الأقل، إذا تمكنت من إجراء بعض الحسابات التقريبية، يمكنني محاولة البقاء على اطلاع دائم.

واو، هذه فكرة رائعة. لم أفكر في ذلك من قبل. إذن، سأطبق CDN على حزمة Amazon الخاصة بي، ثم أخبر Discourse باستخدام S3 لجميع الأصول؟ (مثلما كان من قبل؟ lol)