التجارة الإلكترونية الطازجة في جنوب شرق آسيا تستخدم كلود لفحص جودة الطلبات ، وتوفير 3 وظائف خدمة العملاء ولكن تدوس اثنين من الحفرة القاتلة

في الأسبوع الماضي ، تعامل فريقنا مع حادثة مفاجئة: 18٪ من أوامر ما بعد البيع في يوم الترويج بسبب خطأ تنسيق إخراج كلود ، وقعت مباشرة في طابور معالجة ، وتأجل المستخدم طلب التعويض عن الفاكهة السيئة الطازجة لمدة 4 ساعات قبل الاستجابة ، وارتفع معدل إعادة الطلب بنسبة 2 نقطة مئوية مباشرة في اليوم نفسه.

أولاً: أخبر أولئك الذين لم يتصلوا بهم: ما هو كلود؟

إنه نموذج لغة كبير تم تطويره من قبل Anthropic ، ويمكن لـ أحدث إصدار 3.5 Sonnet في الوقت الحاضر تحميل 200k رمز ، وهو حوالي 150،000 كلمة صينية ، وقد اخترناه لأول مرة لأنه يمكن أن يتم حشو تدفق الطلبات الكاملة ، نتائج OCR للمخططات الإثباتية للمستخدم وقواعد دفع المنصة ، دون الحاجة إلى تفكيكها إلى جولات متعددة من الطلبات.

ثلاث فوائد حقيقية حصلنا عليها

الأكثر مباشرة هو انخفاض تكاليف القوى العاملة: ستة وظائف خدمة العملاء المسؤولة عن فحص جودة الطلبات ، تحتاج الآن إلى الاحتفاظ بثلاثة فقط للقيام بالاستثناء ، مما يوفر نفقات القوى العاملة وحدها 4200 دولار شهريًا.

والثاني هو سرعة المعالجة: في الأصل يستغرق المراجعة اليدوية في المتوسط دقيقتين ، والآن يتم الانتهاء من معظم الطلبات في غضون 15ms ، ويمكن للمستخدمين تقديم طلب التعويض في غضون 5 ثوانٍ أساسية ، ونحن ننظر إلى ارتفاع رضا المستخدمين مباشرة في الخلفية بنسبة 17٪.

والثالث هو تنفيذ القواعد أكثر توحيدًا: غالبًا ما تحدث نفس النتائج السيئة في المراجعة اليدوية السابقة ، حيث يعطي البعض تعويضًا كاملًا ، ويعطي البعض تعويضًا بنسبة 30٪ فقط ، ويشتكي المستخدمون من العقوبات غير العادلة في عشرات الحالات كل شهر ، بعد استخدام قواعد كلود الموحدة للتغذية ، انخفضت هذه الشكاوى مباشرة إلى أقل من 3 حالات في الشهر.

لا تنظروا إلى هذه الحفرة، نحن على وشك أن نتوقف.

الأول هو حفرة الحد من التيار: في البداية وصلنا مباشرة إلى API الرسمية ، لم نقوم بتخفيض مستويات متعددة ، تضاعف عدد الطلبات في اليوم ثلاث مرات ، وعاد الرسمي مباشرة إلى 429 ، ولم نقوم بآلية تشغيل يدوي ، ونتيجة لذلك ، عالق الآلاف من أوامر العمل مباشرة.في وقت لاحق أضفنا نفس النموذج صغير التأثير كخطة تخفيض الدرجة، طالما فشلت 3 طلبات متتالية تلقائيا لقطع النموذج الصغير، والفشل مرة أخرى قبل الانتقال اليدوي، والآن لم يظهر مرة أخرى حالة بطاقة دفعة واحدة.

والثاني هو حفرة غير مستقرة في الإخراج الهيكلي: طلبنا منه في البداية إرجاع العقوبة في شكل JSON ، وفي حوالي 2٪ من الحالات ، كان يضيف مجموعة من الكلمات التفسيرية خارج JSON ، مما أدى إلى خطأ مباشر في نص التحليل لدينا.بعد ذلك أضفنا عبارة "إذا لم يكن إخراجك JSON نقيًا ، فسيتم إغلاقك" في نهاية المطاف ، وانخفض معدل ظهور هذه المشكلة إلى أقل من 0.1٪.

من هو المناسب للاستخدام؟من لا يلمس؟

إذا كان فريقك يتعامل مع الكثير من الأعمال المتكررة ذات القواعد الواضحة والكميات الكبيرة من النص ، مثل مراجعة طلبات التجارة الإلكترونية ، وتصنيف أوامر خدمة العملاء ، والمراجعة الأولية لشروط العقد ، ومستعدًا لقضاء 1-2 أسابيع في ضبط Prompt وآليات التخفيض ، فيمكن أن يساعدك كلود على توفير الكثير من المال والوقت.

إذا كان سيناريوك يتطلب دقة النتائج 100٪ ، مثل التشخيص الطبي ، أو المراجعة النهائية للمعاملات المالية ، أو فريقك ليس لديه حتى التشغيل / المطور المتخصص ، فاستخدم التصحيح الصفري ، فلا تلمس ، فاحتمال حدوث خطأ أعلى بكثير مما تتخيل.

نصيحتان للذين يستخدمونها لأول مرة

أولا، لا تأتي مباشرة على الإنتاج، تشغيل 7 أيام من نموذج الظل: جميع الطلبات في نفس الوقت اليدوية وكلود، مقارنة بين الاتساق النتائج، والاتساق مستقرة إلى أكثر من 95٪ قبل قطع حركة المرور، ونحن في ذلك الوقت تشغيل 10 أيام من الظل، وجدت 3 قواعد فهم الانحرافات، تغيير موجه مقدما لم تكن هناك مشكلة.

ثانياً ، لا تضع جميع الطلبات في الإصدار الأكثر تخصيصًا ، لا تستخدم Sonnet في الحالات التي يمكنك استخدامها في Haiku: قمنا بعد ذلك بقطع طلبات تصنيف أمر العمل البسيطة إلى Haiku ، وخفضت تكلفة الرموز المميزة مباشرة بنسبة 60٪ ، وأسرع بمقدار الضعف ، وكانت النتائج ليست سيئة تمامًا.

الأسئلة الشائعة

• هل هناك مشكلة في تسريب البيانات؟إذا كانت بياناتك حساسة ، فقم بشراء نسخة المؤسسة مباشرة ، وقع على اتفاقية معالجة البيانات ، لن تأخذ Anthropic نسخة المؤسسة من نموذج التدريب على البيانات المطلوبة ، واستخدمناها لمدة 8 أشهر دون مشاكل في البيانات.
• أيهما أفضل من GPT؟إذا كان المشهد الخاص بك يتطلب التعامل مع النص الطويل والحاجة إلى فهم السياق ، اختر كلود ؛ إذا كنت بحاجة إلى إنتاج متعدد الوسائط مثل الرسم ، اختر GPT ، ونحن الآن نستخدم كليهما ، كل من تشغيل مشاهد مختلفة.