زوار الظلام

:information_source: الملخص يدمج خدمة Known Agents مع Discourse لتتبع الزواحف (Crawlers) ومزاحي البيانات (Scrapers) غير المرغوب فيها التي تزور منتداك.
:hammer_and_wrench: رابط المستودع https://github.com/magicball-network/discourse-darkvisitors
:open_book: دليل التثبيت كيفية تثبيت الإضافات في Discourse

:information_source: اعتباراً من 3 فبراير 2026، تم تغيير اسم خدمة Dark Visitors إلى Known Agents. لم يتم تغيير اسم إضافة Discourse.

الميزات

Known Agents هي خدمة تتتبع الوكلاء (الزواحف، مزاحو البيانات، وأنواع أخرى من الروبوتات) الذين يزورون مواقعك الإلكترونية. يركز اهتمامهم الرئيسي على تحليل وكلاء الذكاء الاصطناعي.

تقدم الخدمة خدمتين:

  • توليد ومراقبة ملف robots.txt
  • تحليلات الوكلاء

خدمة robots.txt مجانية. توفر خدمة التحليلات باقة مجانية. أقترح عليك زيارة موقعهم الإلكتروني لمزيد من المعلومات.

ترتبط إضافة Discourse هذه بجميع هذه الخدمات، وكلها اختيارية وقابلة للتكوين إلى حد ما.

توليد robots.txt

يقدم Discourse بالفعل خياراً لتكوين ملف robots.txt. توسّع هذه الإضافة هذا الملف. عند تفعيلها، تسترجع الإضافة قائمة بالوكلاء في فئات مختلفة (حالياً لا يتم دعم فئات الذكاء الاصطناعي فقط)، وتضيف أولئك الذين ينقصون في الوكلاء المُكوّنين مسبقاً. سيتم تحديث القائمة يومياً. بهذه الطريقة، عندما يُعترف ببرنامج زاحف جديد للذكاء الاصطناعي، سيُضاف إلى ملف robots.txt الخاص بك.

يعمل هذا الخيار فقط إذا كان Discourse يدير ملف robots.txt ولم تقم بتجاوزه يدوياً. لا تقوم الإضافة بتغيير إعداد Blocked crawler user agents، بل تضيف الوكلاء الناقصين الجدد إلى robots.txt. لذلك، لا تزال تحت سيطرتك الكاملة لإدارة هذه القائمة.

عند زيارة ملف robots.txt لموقعك، ستلاحظ تعليقاً في بداية الملف يشير إلى آخر تحديث، وعدد الوكلاء الذين أعادتهم Known Agents. تُضاف الوكلاء غير المُكوّنة مسبقاً إلى نهاية القائمة. يجب أن تكون بين Googlebot وتوجيه خريطة الموقع (sitemap directive) (إذا كان مُكوّناً).

تحليلات الوكلاء

يمكن تفعيلها لجميع الزوار، أو فقط للزوار غير الموثقين.

تقوم تقارير التحليلات من جانب الخادم بإرسال الزيارات المتتبعة إلى Known Agents. ستُرسل مسار الطلب، والعنوان البعيد للزائر، وترويسة User-Agent، وبعض الترويسات الأخرى للمتصفح.

هناك بعض الإعدادات الإضافية حول الطلبات التي يتم الإبلاغ عنها، راجع الإعدادات أدناه. افتراضياً، سيتم تتبع الطلبات التي يحددها Discourse لتتبعها كمشاهدات فقط. لن يتم الإبلاغ أبداً عن الطلبات التالية إلى Discourse:

  • الطلبات إلى قسم الإدارة
  • طلبات الخلفية وواجهات برمجة التطبيقات (API)

تُحتسب جميع الطلبات المتتبعة ضمن الأحداث التي تؤثر على خطة الدفع الخاصة بك.

الإعدادات

يجب عليك التسجيل في Known Agents لاستخدام هذه الإضافة. تمنحك الباقة المجانية 100,000 حدث شهرياً. عند الوصول إلى هذا الحد، لن ترى أي أحداث أحدث في تحليلاتهم، لكن يمكنك الاستمرار في إرسال معلومات جديدة واستخدام خدمة robots.txt.

بعد التسجيل، يجب عليك إنشاء مشروع (أي موقع للمتابعة). سيوفر لك هذا رمز وصول (access token) مطلوب لوظيفة robots.txt والتحليلات من جانب الخادم.

عند تفعيل وظيفة robots.txt، يستغرق الأمر وقتاً قصيراً قبل أن يتم تحديثها. قم بزيارة https://yoursite/robots.txt للتحقق مما إذا كانت تعمل. يجب أن يكون هناك تعليق في الأعلى:

# Augmented by Dark Visitors on 2025-05-07T12:46:00+00:00 with 28 agents

عند تفعيل التحليلات من جانب الخدمة، يمكنك الاختبار لمعرفة ما إذا كانت تعمل من خلال طلب زيارة اختبار من إعدادات مشروع Known Agents. قد يستغرق الأمر بضع ثوانٍ. يجب أن ترى النتيجة في صفحة Realtime على Known Agents.

الإعدادات

الاسم الوصف
darkvisitors enabled علم عام لتفعيل الإضافة بأكملها
darkvisitors access token رمز الوصول السري المطلوب لـ robots.txt والتحليلات من جانب الخادم للتواصل مع Known Agents. ستجد هذا في مشروع Known Agents الخاص بك تحت الإعدادات.
darkvisitors robots txt enabled عند التفعيل، سيتم تعزيز ملف robots.txt الخاص بـ Discourse بوكلاء إضافيين
darkvisitors robots txt agents نوع الوكلاء للإضافة إلى robots.txt.
darkvisitors robots txt path المسار الذي سيُمنع الوكلاء من الوصول إليه. من الأفضل على الأرجح تركه على / حتى يتم رفض الوصول إلى الموقع بأكمله.
darkvisitors server analytics يفعّل التحليلات من جانب الخادم. أوصي بتفعيله للمستخدمين المجهولين فقط.
darkvisitors server analytics include طلبات إضافية للتتبع. يمكنك أيضاً تتبع الطلبات إلى الملفات المرفوعة، أو حتى طلبات 404 Not Found.
darkvisitors server analytics ignore أجزاء من النصوص في وكلاء المستخدم (user agents) للتجاهل (حساس لحالة الأحرف). إذا كنت تستخدم مراقبة التشغيل (uptime monitoring)، فأقترح بشدة تضمين وكيل المستخدم التعريفي الخاص بهم في هذه القائمة.
5 إعجابات

شكراً لك يا elmuerte! لقد قمت بإعداده وهو يعمل بشكل رائع.

أرى أنه في إعدادات المكون الإضافي، أنواع الوكلاء التي يمكن تحديدها للاستبعاد عبر robots.txt هي:

  • AI Data Scraper [محدد افتراضيًا]
  • Undocumented AI Agent [محدد افتراضيًا]
  • AI Agent
  • AI Assistant
  • AI Search Crawler

ولكن القائمة الكاملة لأنواع وكلاء Dark Visitors هي:
(غامق = إضافي)

الزواحف وكاشطات…

  • AI Assistant
  • AI Data Scraper
  • AI Search Crawler
  • Archiver
  • Developer Helper
  • Fetcher
  • Intelligence Gatherer
  • Scraper
  • Search Engine Crawler
  • Security Scanner
  • SEO Crawler
  • Uncategorized Agent
  • Undocumented AI Agent

وكلاء الذكاء الاصطناعي…

  • AI Agent
  • Headless Agent

ليست كل هذه الأنواع من الوكلاء أشياء قد يرغب المرء في حظرها، ولكنني أود تضمين بعضها مثل Scraper، و AI Data Scraper، و SEO Crawler…

هل هذه الأنواع الإضافية من الوكلاء أحدث من المكون الإضافي الخاص بك؟ هل يمكن إضافتها إلى قائمة الخيارات الحالية في settings.yml؟

باستثناء robots.txt هو مجرد طلب. البوت يتبعه أو لا. جدار الحماية هو الطريقة الوحيدة لإيقاف تلك.

نعم، أفهم ذلك – ولكن بما أن Dark Visitors يعمل فقط مع robots.txt، أود جعله يعمل بأفضل شكل ممكن.

(أنا أقرأ حاليًا بعض المنشورات التي تقترح فيها حظرًا حقيقيًا باستخدام وكيل عكسي Nginx، ولكني لست متأكدًا مما إذا كنت بحاجة إلى الذهاب إلى هذا الحد بعد.)

هذا صعب بعض الشيء. ولكن يجب أن يعمل Dark Visitor مع قائمة الحظر الخاصة بـ Discourse ليكون مفيدًا على مستوى ما. بالتأكيد، مع ذلك لا تحتاج إلى إضافة OpenAI يدويًا أو غير ذلك مما يتبع robots.txt.

لقد اتصلت بـ Dark Visitors بشأن هذا في 3 مايو من هذا العام، وكان ردهم “ليس في الوقت الحالي”. لكنني أرى أن الوثائق الحالية تسرد المزيد من الأنواع الآن.

في الوقت الحالي، تدعم واجهة برمجة تطبيقات Dark Visitors الأنواع التالية:

لقد تأكدت من أنه يمكن توسيع الإعداد في Discourse بإضافة أنواع وكلاء إضافية بمجرد إضافتها.

بعد إضافة النوع الجديد وحفظ الإعداد، يجب تحديث ملف robots.txt على الفور بجميع الوكلاء الجدد.

إعجاب واحد (1)

يا إلهي، لقد فاتني تمامًا حقل “بحث أو إنشاء”. السمة الخاصة بي لديها تباين منخفض جدًا هناك وقد أفلتت من عيني. شكراً للتوضيح!