خطأ في مهمة LLMs المخصصة [deepseek-coder-v2:latest لا يدعم الأدوات"، "النوع": "api_error"، "param": null، "code": null]

[viswanatha (P Viswanatha Reddy)]

لقد قمنا بتمكين نموذج اللغة الكبير المخصص، ولكننا نواجه مشكلة عند تجربة روبوت الدردشة.

السجل

الرسالة (تم الإبلاغ عن نسختين)

Job exception: {"error":{"message":"registry.ollama.ai/library/deepseek-coder-v2:latest does not support tools","type":"api_error","param":null,"code":null}}

تتبع المكدس

/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:173:in `block (2 levels) in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/net-http-0.6.0/lib/net/http.rb:2433:in `block in transport_request'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/net-http-0.6.0/lib/net/http/response.rb:320:in `reading_body'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/net-http-0.6.0/lib/net/http.rb:2430:in `transport_request'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/net-http-0.6.0/lib/net/http.rb:2384:in `request'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rack-mini-profiler-4.0.1/lib/patches/net_patches.rb:19:in `block in request_with_mini_profiler'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rack-mini-profiler-4.0.1/lib/mini_profiler/profiling_methods.rb:51:in `step'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rack-mini-profiler-4.0.1/lib/patches/net_patches.rb:18:in `request_with_mini_profiler'
/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:168:in `block in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/net-http-0.6.0/lib/net/http.rb:1632:in `start'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/net-http-0.6.0/lib/net/http.rb:1070:in `start'
/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:139:in `perform_completion!'
/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/open_ai.rb:53:in `perform_completion!'
/var/www/discourse/plugins/discourse-ai/lib/completions/llm.rb:415:in `generate'
/var/www/discourse/plugins/discourse-ai/lib/personas/bot.rb:89:in `reply'
/var/www/discourse/plugins/discourse-ai/lib/ai_bot/playground.rb:494:in `reply_to'
/var/www/discourse/plugins/discourse-ai/app/jobs/regular/create_ai_reply.rb:18:in `execute'
/var/www/discourse/app/jobs/base.rb:318:in `block (2 levels) in perform'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rails_multisite-7.0.0/lib/rails_multisite/connection_management/null_instance.rb:49:in `with_connection'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/rails_multisite-7.0.0/lib/rails_multisite/connection_management.rb:17:in `with_connection'
/var/www/discourse/app/jobs/base.rb:305:in `block in perform'
/var/www/discourse/app/jobs/base.rb:301:in `each'
/var/www/discourse/app/jobs/base.rb:301:in `perform'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:220:in `execute_job'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:185:in `block (4 levels) in process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/middleware/chain.rb:180:in `traverse'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/middleware/chain.rb:183:in `block in traverse'
/var/www/discourse/lib/sidekiq/discourse_event.rb:6:in `call'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/middleware/chain.rb:182:in `traverse'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/middleware/chain.rb:183:in `block in traverse'
/var/www/discourse/lib/sidekiq/pausable.rb:131:in `call'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/middleware/chain.rb:182:in `traverse'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/middleware/chain.rb:183:in `block in traverse'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/job/interrupt_handler.rb:9:in `call'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/middleware/chain.rb:182:in `traverse'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/middleware/chain.rb:183:in `block in traverse'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/metrics/tracking.rb:26:in `track'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/metrics/tracking.rb:134:in `call'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/middleware/chain.rb:182:in `traverse'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/middleware/chain.rb:173:in `invoke'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:183:in `block (2 levels) in process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:145:in `block (6 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/job_retry.rb:118:in `local'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:144:in `block (5 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/config.rb:39:in `block in <class:Config>'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:139:in `block (4 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:281:in `stats'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:134:in `block (3 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/job_logger.rb:15:in `call'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:133:in `block (2 levels) in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/job_retry.rb:85:in `global'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:132:in `block in dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/job_logger.rb:40:in `prepare'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:131:in `dispatch'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:183:in `block (2 levels) in process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:182:in `handle_interrupt'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:182:in `block in process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:181:in `handle_interrupt'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:181:in `process'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:86:in `process_one'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/processor.rb:76:in `run'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/component.rb:10:in `watchdog'
/var/www/discourse/vendor/bundle/ruby/3.3.0/gems/sidekiq-7.3.9/lib/sidekiq/component.rb:19:in `block in safe_thread'

[viswanatha (P Viswanatha Reddy)]

curl -X POST http://localhost:11434/v1/chat/completions -H "Content-Type: application/json" -d '{
  "model": "deepseek-coder-v2:latest",
  "messages": [
    {
      "role": "system",
      "content": "أنت مساعد مفيد."
    },
    {
      "role": "user",
      "content": "ما هو أحدث إصدار من Conan بحلول عام 2025"
    }
  ],
  "temperature": 0.7,
  "max_tokens": 200
}'

{"id":"chatcmpl-940","object":"chat.completion","created":1757057197,"model":"deepseek-coder-v2:latest","system_fingerprint":"fp_ollama","choices":[{"index":0,"message":{"role":"assistant","content":" اعتبارًا من آخر تحديث لي في أوائل عام 2023، لا توجد معلومات محددة حول \"Conan\" بعد عام 2025 حيث لا أمتلك قدرات التنبؤ المستقبلية أو بيانات الوقت الفعلي. ومع ذلك، يمكنني تقديم بعض النصائح العامة حول كيفية العثور على أحدث إصدار من Conan، وهو مدير حزم لإدارة تبعيات C/C++:\n\n1. **زيارة الموقع الرسمي:** الطريقة الأكثر موثوقية للحصول على معلومات حول أحدث إصدار من Conan هي زيارة الموقع الرسمي على https://conan.io/. هناك يمكنك عادةً العثور على أحدث ملاحظات الإصدار والوثائق المتعلقة بأحدث إصدار.\n\n2. **التحقق من مستودع GitHub:** تتم استضافة قاعدة كود Conan على GitHub، لذا يمكنك أيضًا التحقق من المستودع (https://github.com/conan-io/conan) للإصدارات أو العلامات التي تتوافق مع الإصدارات المختلفة. غالبًا ما يتضمن المستودع ملاحظات الإصدار في شكل التزامات وطلبات سحب.\n\n3"},"finish_reason":"length"}],"usage":{"prompt_tokens":30,"completion_tokens":200,"total_tokens":230}}

[awesomerobot (Kris)]

يبدو أن هذا هو الخطأ الرئيسي:

deepseek-coder-v2:latest لا يدعم الأدوات

بالنظر إلى قائمة النماذج هنا: deepseek-coder · Ollama Search
لا يبدو أن deepseek-coder-v2 يدعم الأدوات — ستحتاج إما إلى إزالة الأدوات من شخصيتك أو التبديل إلى نموذج يدعم استدعاء الأدوات مثل deepseek-coder-v2-tool-calling

[viswanatha (P Viswanatha Reddy)]

عندما نقوم بتنفيذ أمر CURL بالإدخالات، فإنه ينتج المخرجات دون أي مشاكل. لم نقم بإجراء أي تخصيصات في الشخصية والإعدادات الخاصة بها.

deepseek-coder-v2

@awesomerobot

هل يمكنك تقديم المزيد من التفاصيل وبعض الأمثلة؟ سيساعدنا هذا في الحصول على فهم أوضح وتعزيز مناقشات أفضل.

[awesomerobot (Kris)]

لا يبدو أن أمر curl يتضمن استدعاءات للأدوات، فهل هذا هو السبب؟ في إعدادات الشخصية، هل هناك أي أدوات مدرجة هنا؟

[viswanatha (P Viswanatha Reddy)]

@awesomerobot

لم نقم بتضمين أي شخصيات مخصصة بعد، لذا فإن جميع الشخصيات التي تراها في التطبيق هي مجرد خيارات افتراضية. بالإضافة إلى ذلك، نحن لا نستخدم أيًا منها في الوقت الحالي!

الشخصيات:

الأدوات

[awesomerobot (Kris)]

بعد إلقاء نظرة أخرى على لقطة الشاشة السابقة، أرى أنك تستخدم شخصية forum helper لروبوتك… وهذا يتضمن بعض الأدوات المضمنة التي لا يمكنك إزالتها ولن تعمل مع النموذج الذي تستخدمه.
يجب عليك تجربة إحدى الشخصيات المعدة مسبقًا التي لا تتضمن أدوات (“creative” هو خيار واحد) أو إنشاء شخصية جديدة لا تتضمن أدوات.

[viswanatha (P Viswanatha Reddy)]

هل يمكنك توضيح ما إذا كان امتلاك شخصية أمرًا ضروريًا لعمل نماذج اللغة الكبيرة (LLMs) بفعالية؟

[awesomerobot (Kris)]

نعم، تستخدم ميزات الذكاء الاصطناعي لدينا نموذج لغة كبير (LLM) بشخصية محددة.

عندما يكون لديك أكثر من شخصية واحدة ممكّنة وتنشئ رسالة جديدة، سترى قائمة منسدلة تتيح لك اختيار الشخصية:

لأغراض الاختبار، إذا قمت بتمكين الشخصية الإبداعية المضمنة:

ثم قمت بتحديث الصفحة وبدأت رسالة جديدة بها، أتوقع أن يعمل هذا مع نموذج اللغة الكبير الخاص بك لأن الشخصية الإبداعية لا تتضمن أي أدوات.

[viswanatha (P Viswanatha Reddy)]

أرى هذه الخيارات فقط، هل يمكنك مساعدتي في الإعداد؟

[awesomerobot (Kris)]

تحتاج إلى زيارة /admin/plugins/discourse-ai/ai-personas وإنشاء شخصية جديدة أو تمكين شخصية بدون أدوات. إذا كنت ترغب في تجربة شخصية موجودة، فإن “Creative” ستكون خيارًا جيدًا للاختبار لأنها لا تتضمن أي أدوات.

لذلك، ستقوم بالنقر على “تعديل” هنا:

وفي أسفل إعدادات الشخصية، ستحتاج إلى تمكينها، والنقر على “إنشاء مستخدم”، وحفظ التغييرات.

بمجرد الانتهاء من ذلك، يجب أن تظهر شخصية “Creative” في القائمة (قد تحتاج إلى تحديث الصفحة أولاً).

[viswanatha (P Viswanatha Reddy)]

هل نحتاج أيضًا إلى تحديد النموذج الافتراضي؟

أيضًا، يرجى المساعدة في الإعدادات التالية:

AI helper proofreader persona
AI helper title suggestions persona
AI helper explain persona
AI helper post illustrator persona
AI helper smart dates persona
AI helper translator persona
AI helper markdown tables persona
AI helper custom prompt persona
AI helper image caption persona
AI embeddings semantic search hyde persona
AI summarization persona
AI summary gists persona
AI bot discover persona
AI Discord search persona
AI translation locale detector persona
AI translation post raw translator persona
AI translation topic title translator persona
AI translation short text translator persona
Inferred concepts generate persona
Inferred concepts match persona
Inferred concepts deduplicate persona
AI embeddings generate for PMs
AI bot public sharing allowed groups

[viswanatha (P Viswanatha Reddy)]

كيفية تغذية سؤالي إلى نماذج اللغة الكبيرة، والشخصية للحصول على مخرجات أفضل

أريد الحصول على الإجابة بناءً على البيانات الموجودة في منتداي والنموذج إذا لم تكن متاحة

[viswanatha (P Viswanatha Reddy)]

@awesomerobot

شكراً جزيلاً على مساهمتك! أقدر ذلك حقاً. أحصل على ردود من الروبوت، ولكن يبدو أن محتوى المنتدى الخاص بي لم يتم تضمينه بعد. هل لديك أي اقتراحات حول كيفية تحسين ذلك؟ شكراً مرة أخرى!

[awesomerobot (Kris)]

@viswanatha

هل لديك أي اقتراحات حول كيفية تحسين ذلك للحصول على محتوى المنتدى؟

ستحتاج إلى التبديل إلى نموذج لغوي كبير يدعم استخدام الأدوات، وشخصيتنا المضمنة “مساعد المنتدى” على سبيل المثال، تستخدم أدوات “البحث” و"القراءة" للعثور على محتوى ذي صلة في المنتدى لدمجه في ردودها.

[Roman (Roman Rizzi)]

إذا لم يكن لدى النموذج دعم أصلي للأدوات، يمكنك دائمًا استخدام البديل XML، الذي يتضمنها في الموجه: