أحصل على محادثة “Mondays” في ملخصاتي:
لقد رأيت ذلك في سجلاتي - يبدو أنه مصمم لمساعدة النموذج على تفسير التنسيق؟ لكن لا ينبغي أن يظهر للمستخدمين.
بدأ هذا السلوك بعد تغيير شيئين:
AiSummary.destroy_all. ربما هذا غير كافٍ؟هل كل ملخص يكون هكذا بعد التغيير إلى Claude Haiku 3.5؟
لا، حوالي النصف - حوالي 5 من أصل 10 ملخصات تم إنشاؤها. لقد حاولت العودة إلى sonnet لمعرفة ما إذا كان ذلك سيؤدي إلى إصلاح ذلك، ولكني أواجه حدودًا للمعدل، لذا قد يستغرق الأمر بعض الوقت لتوصيف ذلك.
هل يمكنك التحقق من طلب واستجابة واجهة برمجة التطبيقات بالكامل من موضوع حدث فيه هذا ومشاركته معي؟ سيكون ذلك في جدول ai_api_audit_logs.
ليس في الوقت الحالي للأسف. لكنني نظرت في ذلك سابقًا ووجدت أن الاستجابة لهذا الموضوع كانت ملخصًا صالحًا دون ذكر أيام الإثنين. هل هناك أي طريقة يمكن أن تختلط بها الأمور بعد الرد؟ إذا لم يتبادر إلى ذهنك شيء، فسأقدم لك مثالاً أكثر تحديدًا في اليومين المقبلين.
تسجيلنا في ai_api_audit_logs مضمون، ويتم تسجيل جميع الاستجابات الناجحة هناك ويجب أن ترى المطالبة بأكملها. هل هناك أي طريقة يمكنك من خلالها تشغيل مستكشف البيانات والنظر في محتويات الجدول؟
أواجه مشكلة أيام الاثنين عندما أصل إلى حد المعدل في Anthropic، على الأقل مع haiku. يمكنني محاولة إصلاح حد المعدل ولكنه سيكون من الجيد الفشل وعدم عرض أيام الاثنين.
/logs:
Job exception: {"type":"error","error":{"type":"rate_limit_error","message":"Number of request tokens has exceeded your per-minute rate limit (https://docs.anthropic.com/en/api/rate-limits); see the response headers for current usage. Please reduce the prompt length or the maximum tokens requested, or try again later. You may also contact sales at https://www.anthropic.com/contact-sales to discuss your options for a rate limit increase."}}
طلب من ai_api_audit_logs. لقد قمت بإخفاء محتوى المستخدم الحقيقي:
{
"model": "claude-3-haiku-20240307",
"max_tokens": 3000,
"messages": [
{
"role": "user",
"content": "Here are the posts inside <input></input> XML tags:\n\n<input>1) user1 said: I love Mondays 2) user2 said: I hate Mondays</input>\n\nGenerate a concise, coherent summary of the text above maintaining the original language."
},
{
"role": "assistant",
"content": "Two users are sharing their feelings toward Mondays. [user1](/t/-/11772/1) hates them, while [user2](/t/-/11772/2) loves them."
},
{
"role": "user",
"content": "he discussion title is: [redacted].\n\nHere are the posts, inside <input>[redacted]</input> XML tags:\n\n<input></input>\n\nGenerate a concise, coherent summary of the text above maintaining the original language."
}
],
"system": "You are an advanced summarization bot that generates concise, coherent summaries of provided text.\n\n- Only include the summary, without any additional commentary.\n- You understand and generate Discourse forum Markdown; including links, _italics_, **bold**.\n- Maintain the original language of the text being summarized.\n- Aim for summaries to be 400 words or less.\n- Each post is formatted as \"<POST_NUMBER>) <USERNAME> <MESSAGE>\"\n- Cite specific noteworthy posts using the format [NAME](/t/-/11772/POST_NUMBER)\n - Example: link to the 3rd post by sam: [sam](/t/-/11772/3)\n - Example: link to the 6th post by jane: [agreed with](/t/-/11772/6)\n - Example: link to the 13th post by joe: [#13](/t/-/11772/13)\n- When formatting usernames either use @USERNMAE OR [USERNAME](/t/-/11772/POST_NUMBER)"
}
الاستجابة من ai_api_audit_logs:
{
"id": "msg_01QPVSmg93tu21WtPUvoNZ33",
"type": "message",
"role": "assistant",
"model": "claude-3-haiku-20240307",
"content": [
{
"type": "text",
"text": "Summary:\n\nTwo users are sharing their feelings toward Mondays. [user1](/t/-/11772/1) loves them, while [user2](/t/-/11772/2) hates them."
}
],
"stop_reason": "end_turn",
"stop_sequence": null,
"usage": {
"input_tokens": 7298,
"output_tokens": 49
}
}
يؤدي النقر فوق الزر “تلخيص” إلى عرض هذا:
هذا يعني أنهم يعيدون استجابة 200 عند وصولك إلى حد المعدل بدلاً من 429.
هذه ستكون مشكلة في واجهة برمجة التطبيقات الخاصة بهم. هل يمكنك فتح تقرير مشكلة هناك؟
إنهم يريدون حركة مرور الشبكة بما في ذلك الرؤوس. لا أرى كيف يمكنني الحصول على ذلك من متصفحي، سواء عن طريق الضغط على زر الملخص أو عن طريق تشغيل مهمة sidekiq.
نحن لا نسجل ذلك، ستحتاج إلى إعادة إنتاج إصدار cURL من خادمك وتمرير ذلك.
يمكنك أيضًا تزويدهم بـ msg_01QPVSmg93tu21WtPUvoNZ33 يمكنهم البحث عن ذلك مباشرة في سجلاتهم.
هل هناك أي أخبار من Anthropic بالنظر إلى معرف الطلب الذي قدمه سام @markschmucker؟
إذا كنت لا تزال مقيدًا بالمعدل، فربما حاول تقليل حجم دفعة الملء العكسي إلى النصف.
لا يمتلكون نظامًا نموذجيًا لتذاكر الدعم - بدلاً من ذلك، تتحدث إلى روبوت. أبلغت المشكلة إلى الروبوت، بما في ذلك معرف الرسالة الذي قدمه @sam. اقتنع الروبوت ووعد بتمريرها إلى إنسان، وإرسال بريد إلكتروني إليّ عند وجود تحديث جديد. لم تصل أي رسائل بريد إلكتروني بعد.
اليوم تلقيت رسالة دردشة من Anthropic، تسأل ببساطة عما إذا كان الأمر لا يزال يحدث. إنه يحدث. لا يوجد المزيد من الملاحظات. تجربة محبطة.
رد أنثروبيك:
مرحباً،
للأسف، أنا لا أواجه هذا الخطأ في الوقت الحالي.
مع خالص التقدير،
ريان
لا أرى كيف يمكنني المضي قدمًا في هذا الأمر. يمكنني إنشاء اختبار خاص بي باستخدام cURL ولكن أشك في أن ذلك سيكون محاكاة دقيقة لما يفعله Discourse.
يقوم Discourse بإجراء نفس استدعاءات HTTP التي يقوم بها cURL، لذا من الممكن تكرارها بدقة 100%.
ومع ذلك، من المعروف أن Anthropic تواجه صعوبة في مواكبة الطلب المتزايد، لذلك قد يكون من الأسهل البحث عن استخدام Claude عبر AWS أو Google Cloud، أو حتى تجربة Gemini أو واجهات برمجة تطبيقات LLM الأخرى.