เราได้ย้ายกระบวนการจัดการคำขอบริการลูกค้าไปใช้ระบบ Claude 3.5 Sonnet ซึ่งช่วยประหยัดค่าใช้จ่ายด้านแรงงานได้ถึง 21,000 ยูโรในช่วง 3 เดือน

เมื่อเดือนที่แล้วทีมบริการลูกค้าอีคอมเมิร์ซในยุโรปของเราเกือบจะล้มเหลว: สัปดาห์ก่อนโปรโมชั่นวันศุกร์ดํามีอีเมลผู้ใช้หลายภาษาเฉลี่ย 1,200 รายวันและผู้เชี่ยวชาญด้านการบริการลูกค้า 3 คนยังคงมี 40% ของใบสั่งงานที่จะลากไปนานกว่า 24 ชั่วโมงเพื่อตอบสนองอัตราความคิดเห็นที่ไม่ดีของผู้ใช้เพิ่มขึ้น 18% โดยตรงการรับสมัครพาร์ทไทม์ชั่วคราวไม่เพียง แต่ล้มเหลวในการติดตามวงจรการฝึกอบรม แต่ยังมีค่าใช้จ่ายเพิ่มเติมเกือบ 20,000 ยูโรต่อเดือน

สำหรับคนที่ยังไม่เคยได้ยินมาก่อน นี่คือคำอธิบายสั้นๆ:

Claude 3.5 Sonnet เป็นโมเดล AI แบบมัลติมอดัลต์ (multi-modal) ที่ Anthropic ได้เปิดตัวในปี 2024ภายใต้การสนับสนุนหน้าต่างบริบทขนาด 200K ความเร็วในการคำนวณเพิ่มขึ้นเป็นสองเท่าเมื่อเทียบกับรุ่นก่อนสามารถรองรับข้อมูลของใบสั่งงานเดียวของเรา รวมถึงข้อมูลการสั่งซื้อในอดีตของผู้ใช้งานตลอดเวลาเกือบ 3 เดือน และบันทึกการสื่อสารทั้งหมดได้พอดี

สามประโยชน์หลักที่เราใช้นั้น แต่ละประโยชน์ต่างก็เน้นไปที่จุดที่ผู้ใช้รู้สึกไม่พอใจ (pain points)

• คําพูดของลูกสามีถูกต้อง: ผู้ใช้ของเราครอบคลุมสี่ภาษาเยอรมันฝรั่งเศสตะวันตกและอิตาลี ก่อนที่จะใช้แบบจําลองขนาดเล็กในการจัดการใบสั่งงานที่ไม่ใช่ภาษาอังกฤษมักจะสับสนกับ "การคืนเงิน" และ "การแลกเปลี่ยนสินค้า" อัตราการตัดสินผิดพลาดของ Sonnet น้อยกว่า 2% สามารถจัดการได้โดยตรงโดยไม่ต้องใช้เครื่องมือแปลเพิ่มเติม
• การประมวลผลเอกสารยาวมีเสถียรภาพ: ผู้ใช้มักจะแนบภาพถ่ายของสินค้าที่เสียหาย 5-6 ภาพและคําอธิบายหลายร้อยคําเมื่อยื่นขอคืน Sonnet สามารถอ่านภาพข้อความและบันทึกคําสั่งซื้อที่ผ่านมาได้ในครั้งเดียวและสร้างแผนการจัดการที่สอดคล้องกับกฎหลังการขายของเราโดยตรงโดยไม่ต้องตรวจสอบข้อมูลด้วยตนเอง
• ต้นทุนต่ำมาก: เราวัดได้ว่าค่าใช้จ่ายในการจัดการโทเค็นสำหรับ 1000 รายการงานนั้นน้อยกว่า 10 ยูโร แม้จะรวมค่าใช้จ่ายของเกตเวย์และการปรับแต่งเล็กน้อยแล้ว ค่าใช้จ่ายรวมต่อเดือนก็ยังน้อยกว่า 1 ใน 5 ของเงินเดือนของพนักงานบริการลูกค้าเต็มเวลา

ในเดือนแรกที่เราเริ่มใช้ Sonnet ระยะเวลาตอบสนองเฉลี่ยของเราสำหรับใบสั่งงาน (tickets) ลดลงจาก 17 ชั่วโมงเหลือเพียง 1.5 ชั่วโมงลูกค้าสามารถส่งคืนสินค้าหรือสอบถามเกี่ยวกับการจัดส่งได้โดยตรง ไม่จำเป็นต้องให้ฝ่ายบริการลูกค้าดำเนินการซ้ำๆ อีกต่อไป พวกเขาเพียงแค่ต้องจัดการกับข้อพิพาทที่ซับซ้อนเพียงประมาณ 10% เท่านั้น และในช่วงที่มีการจัดโปรโมชั่นใหญ่ ก็ไม่ได้มีการเพิ่มพนักงานเพิ่มเติมอีกด้วย

อย่ามองแต่ข้อดีนะ สองสัปดาห์ที่ผ่านมาเราเจอปัญหาจริงๆ ถึงสองอย่างเลย

ประการแรกคือภาพลวงตาของการระบุกฎที่ซับซ้อน: เรามีกฎเฉพาะคือ "สินค้าที่กําหนดเองเกิน 7 วัน แต่ปัญหาคุณภาพยังคงสามารถคืนเงินได้" ในตอนแรกกฎจะถูกป้อนโดยตรงไปยังแบบจําลองมันจะยังคงปฏิเสธผู้ใช้ตามทั่วไป "สินค้าที่กําหนดเองไม่มีการคืนและไม่มีการแลกเปลี่ยน" ต่อมาเราทํากฎพิเศษดังกล่าวเป็นคําพร้อมท์ทริกเกอร์แยกต่างหากและคําหลักที่เกี่ยวข้องจะเรียกลําดับความสําคัญก่อนที่จะแก้ปัญหา

ประการที่สองคือการ จํากัด ปัจจุบัน: คําขอสูงสุดในวันส่งเสริมการขายใหญ่เป็น 3 เท่าของปกติ ในตอนแรกไม่มีกลยุทธ์การลดระดับคําขอบางส่วนกลับไปที่ 429 โดยตรง ต่อมาเราเพิ่มกลไกคิวที่เรียบง่ายล่าช้าการประมวลผลใบสั่งงานที่ไม่ใช่ฉุกเฉินเป็นเวลา 10 นาทีและไม่มีความล้มเหลวอีกต่อไป

พูดให้ชัดเจนนะ: ใครที่เหมาะสมกับสิ่งนี้ ก็ไม่จำเป็นต้องไปยุ่งกับมันเลย

หากทีมงานของคุณมีคุณสมบัติตรงตามเงื่อนไขสองอย่างใดอย่างหนึ่งคุณจะไม่ผิดพลาดในการใช้งานโดยตรง: ประการแรกคุณต้องจัดการกับข้อความยาวจํานวนมากงานที่มีโครงสร้างหลายโหมดเช่นใบสั่งงานบริการลูกค้าการตรวจสอบสัญญาและบทสรุปเอกสารยาว ประการที่สองธุรกิจครอบคลุมภูมิภาคภาษาลูกสาวและไม่ต้องการปรับแต่งแบบจําลองสําหรับแต่ละภาษาแยกต่างหาก

ถ้าคุณต้องการเพียงแค่การตอบกลับด้วยคำสำคัญๆ การจัดหมวดหมู่ข้อความสั้นๆ หรือมีความต้องการความเป็นส่วนตัวของข้อมูลสูงมากจนไม่สามารถส่งข้อมูลไปยังโมเดลของบุคคลที่สามได้เลย ก็ไม่จำเป็นต้องเลือกมัน การใช้โมเดลขนาดเล็กหรือแม้แต่เครื่องมือที่ใช้กฎเกณฑ์ก็เพียงพอแล้ว

คำแนะนำเชิงปฏิบัติสองข้อสำหรับผู้ที่ใช้เป็นครั้งแรก

ในการทดสอบครั้งแรกอย่าตัดเต็มรูปแบบโดยตรง แต่ใช้คําสั่งงานประวัติศาสตร์ที่ดําเนินการแล้วในช่วง 1 เดือนที่ผ่านมาเพื่อเรียกใช้เปรียบเทียบผลการส่งออกแบบจําลองกับผลการประมวลผลด้วยตนเอง อัตราความแม่นยําสูงกว่า 90% ก่อนที่จะเปิดตัวออนไลน์ซึ่งสามารถหลีกเลี่ยงปัญหาการปรับตัวกฎ 80%

หากคําขอของคุณมีความผันผวนมากให้แน่ใจว่าทําคิวที่เรียบง่าย: โควต้าฟรีของ Sonnet มีข้อ จํากัด ค่อนข้างเข้มงวดทํางานที่มีความสําคัญต่ําในช่วงเวลาสูงสุดและสามารถตอบสนองความต้องการของ ส่วนใหญ่โดยไม่ต้องจ่ายค่าใช้จ่ายเพิ่มเติมสําหรับการส่งผ่านพิเศษ

คำถามบางข้อที่คุณอาจจะถาม

Q: ต้องทำการปรับแต่งเล็กน้อยเป็นพิเศษหรือไม่? A: เราเพียงแค่เขียนกฎการบริการหลังการขายลงไปในประโยคแนะนำ (prompt) เท่านั้น ไม่ได้ทำการปรับแต่งอะไรเพิ่มเติม และอัตราความแม่นยำก็เพียงพอแล้ว ยกเว้นว่ากฎการทำธุรกิจของคุณจะซับซ้อนมาก ในกรณีนั้นคุณอาจจำเป็นต้องใช้เงินเพิ่มเติม

Q: แล้วเมื่อเทียบกับ GPT-4o แล้วอันไหนคุ้มค่ากว่ากัน? A: จากการทดสอบของเรา พบว่า Sonnet มีต้นทุนที่ถูกกว่าประมาณ 30% สำหรับการจัดการใบสั่งงานที่เหมือนกัน โดยมีความแม่นยำใกล้เคียงกัน ดังนั้น สำหรับธุรกิจขนาดกลางและเล็กที่ให้ความสำคัญกับต้นทุน การเลือก Sonnet จึงเหมาะสมกว่า