หลังจากที่ทีมของเราย้ายการระบุที่อยู่ไปใช้ GPT-5 อัตราข้อผิดพลาด 429 ลดลงจาก 13% เหลือ 0.2% แต่เราก็พบกับปัญหา 2 อย่างที่ไม่คาดคิด

เมื่อเดือนที่แล้วห้าโปรโมชั่นสีดําเพิ่งสิ้นสุดลง 3 ของเราจ้องมองไปที่แผงตรวจสอบเป็นเวลา 72 ชั่วโมงเต็ม 13% ของคําขอการวิเคราะห์ที่อยู่ในช่วงโปรโมชั่นปีที่แล้วรายงานโดยตรงถึงฝันร้ายของการ จํากัด ปัจจุบัน 429 ในที่สุดก็ไม่ได้ปรากฏขึ้นอีกครั้งในปีนี้มีการปรับเปลี่ยนหลักเพียงอย่างเดียว: รูปแบบทั่วไปขนาดใหญ่ที่ใช้ก่อนหน้านี้ทั้งหมดถูกแทนที่ด้วย GPT-5 สําหรับการประมวลผลโครงสร้างที่อยู่

สำหรับผู้ที่ยังไม่เคยลองใช้มาก่อน ขออธิบายให้ชัดเจนนะครับ: GPT-5 คืออะไรกันแน่สำหรับสถานการณ์แบบของเรา

นั่นคือโมเดลขนาดใหญ่แบบมัลติมอดัลต์ (multimodal large model) ที่ OpenAI อัปเดตขึ้นในปีนี้ และพารามิเตอร์ที่มีประโยชน์ที่สุดสำหรับเรามีเพียงอย่างเดียวเท่านั้น:จำนวนคำขอที่สามารถประมวลผลได้อย่างมีโครงสร้างต่อนาทีสำหรับบัญชีเดียวนั้นสูงกว่ารุ่นก่อนหน้าถึง 12 เท่าและอัตราการระบุข้อมูลที่ไม่เป็นมาตรฐานก็เพิ่มขึ้นอย่างมากเลย

เราทําโลจิสติกส์ข้ามพรมแดนในยุโรปเราต้องจัดการกับที่อยู่ที่กรอกโดยผู้ใช้ 500,000 ครั้งต่อวัน หลายคนจะผสมถนนรหัสไปรษณีย์เมืองแม้กระทั่งเพิ่มอีโมจิสะกดผิดครึ่งหนึ่งแบบจําลองก่อนหน้านี้ไม่ว่าจะเป็นการระบุผิดหรือต้องปรับอินเทอร์เฟซ 3 ครั้งเพื่อให้ผลลัพธ์ส่งเสริมการจราจรโดยตรงจะถูก จํากัด โดยตรง

หลังจากเปลี่ยนมาใช้ GPT-5 แล้ว เราได้รับผลตอบแทนจริงๆ ถึง 3 อย่าง

ข้อแรกที่เห็นได้ชัดเจนที่สุด: ปัญหาการจำกัดการรับส่งข้อมูล (throttling) ได้รับการแก้ไขโดยตรงในช่วงเวลาที่มีการส่งเสริมการขายอย่างมาก อัตราข้อผิดพลาด 429 ลดลงเหลือ 0.2%เราไม่จำเป็นต้องใช้คิวแบบแบ็กอัพของโมเดลเลยด้วยซ้ำ ซึ่งช่วยประหยัดเวลาในการบำรุงรักษาและการจัดการระบบ (Ops) ไปได้ถึง 30% เมื่อเทียบกับวิธีการก่อนที่ต้องใช้กับระบบบาลานซ์โหลด

ประการที่สองคือการปรับปรุงความแม่นยำในการระบุที่อยู่ ก่อนหน้านี้มีประมาณ 8% ของที่อยู่ที่ต้องได้รับการตรวจสอบย้ำด้วยมือ แต่ตอนนี้อัตรานี้ลดลงเหลือต่ำกว่า 1% ทำให้ทีมบริการลูกค้าต้องจัดการกับคำขอแก้ไขที่อยู่น้อยลงถึง 2,000 รายการต่อสัปดาห์

อย่างที่สามมีคนไม่กี่คนพูดถึง: มันสนับสนุนการอัปโหลดภาพถ่ายของใบหน้าที่เขียนด้วยลายมือโดยตรงเพื่อการระบุโดยไม่ต้องใช้บริการ OCR แต่เพียงผู้เดียวเพื่อถ่ายโอนข้อความ กระบวนการประหยัดสองขั้นตอนคําขอส่วนใหญ่สามารถส่งคืนผลลัพธ์ได้ภายใน 15 ms เฉพาะใบหน้าเบลอบางรายการเท่านั้นที่จะช้าลงเล็กน้อย

อย่ามองแต่ข้อดีเท่านั้นนะ สองข้อผิดพลาดที่เราเจอ คุณก็น่าจะเจอเหมือนกัน

หลุมแรกคือปัญหาการปรับตัวของการสะกดภาษาถิ่นในภูมิภาคที่มีภาษาเล็ก ๆเราคิดว่ามันเป็นภาษาที่หลากหลายพอ แต่เมื่อสัปดาห์ที่แล้วอัตราการจดจําที่อยู่บาสก์ในสเปนเพิ่มขึ้นเป็น 12% เราพบว่าตัวอย่างที่อยู่ของภาษาถิ่นเฉพาะในข้อมูลการฝึกอบรมมีน้อยมากและตอนนี้เราสามารถเพิ่มกฎท้องถิ่นให้กับที่อยู่นี้ได้

หลุมที่สองคือต้นทุนก่อนหน้านี้เราคํานวณว่าค่าใช้จ่ายของโทเค็นต่อคําขอเดียวสูงกว่ารุ่นก่อนหน้าเพียง 20% แต่ลืมว่ามันส่งคืนฟิลด์ที่มีโครงสร้างเพิ่มขึ้น 3 ฟิลด์มากกว่าก่อนหน้านี้โดยค่าใช้จ่ายโทเค็นที่เกิดขึ้นจริงสูงกว่า 40% ต่อมาเราบังคับให้ จํากัด ฟิลด์ที่ส่งคืนใน promp เป็นเพียง 5 เท่าที่จําเป็นเพื่อกดค่าใช้จ่ายกลับไปที่ระดับที่สูงกว่าเดิม 10%

ทีมไหนควรเข้าไปทำงานโดยตรง และทีมไหนไม่จำเป็นต้องเข้าไปเลย

• การใช้: มีความต้องการในการประมวลผลข้อความ / ภาพที่มีโครงสร้างไม่ได้มาตรฐานมากกว่า 100,000 ครั้งต่อวัน ก่อนหน้านี้ทีมงานที่ได้รับการ จํากัด ปัจจุบันโดยแบบจําลองและความถูกต้องไม่เพียงพอติดอยู่บนคอเช่น ที่ทําอีคอมเมิร์ซโลจิสติกส์และการประมวลผลคําสั่งงานการบริการลูกค้า ROI จะใช้งานง่ายมากหลังจากการเปลี่ยน
• สิ่งที่ไม่ควรใช้: สำหรับทีมที่เพียงแค่ทำการตอบคำถามง่ายๆ หรือสร้างเนื้อหา หรือมีปริมาณการร้องขอน้อยกว่า 10,000 ครั้งต่อวัน ไม่จำเป็นเลยที่จะต้องใช้เงินกับสิ่งนี้ โมเดลรุ่นก่อนหน้านี้ก็เพียงพอแล้ว และยังสามารถช่วยประหยัดค่าใช้จ่ายได้มากด้วย

คำแนะนำเฉพาะสำหรับผู้ที่เริ่มต้นใช้งานเป็นครั้งแรกสองข้อ

ประการแรกใช้คําขอที่แท้จริงในประวัติศาสตร์ 7 วันที่ผ่านมาของคุณเพื่อทําชุดทดสอบอย่าทดสอบเฉพาะตัวอย่างที่ให้โดยทางการโดยเฉพาะอย่างยิ่งเนื้อหาที่เกี่ยวข้องกับภาษาขนาดเล็กและพื้นที่เฉพาะคุณต้องวิ่งเพื่อดูความถูกต้องก่อนมิฉะนั้นหลังจากออนไลน์พบว่าการขาดคําตัดสินจะลําบากมาก

ประการที่สอง เมื่อเรียกใช้งานครั้งแรก ให้เขียนชื่อฟิลด์ที่คุณต้องการให้รับคืนไว้ในพรอมป์ต์ (prompt) โดยตรง อย่าปล่อยให้ระบบสร้างเนื้อหาเพิ่มเติมเอง เพราะอาจทำให้เกิดการใช้งานโทเค็น (token) ที่ไม่จำเป็นและสิ้นเปลืองทรัพยากรมากเกินไป

มีคนถามว่า: ตอนนี้ยังคงต้องเข้าคิวเพื่อขอใช้งาน GPT-5 อยู่หรือไม่?

เราเป็นบัญชีนักพัฒนาองค์กร หลังจากส่งเอกสารยืนยันคุณสมบัติแล้ว 3 วันก็จะได้รับการอนุมัติ ส่วนนักพัฒนาส่วนบุคคลอาจต้องรอประมาณ 1-2 สัปดาห์ แต่ถ้าเป็นกรณีฉุกเฉินสามารถใช้ช่องทางพิเศษสำหรับองค์กรได้ ซึ่งจะได้รับการอนุมัติในวันเดียวกัน