Sau khi chúng tôi tích hợp API ChatGPT vào hệ thống chăm sóc khách hàng của doanh nghiệp thương mại điện tử, chúng tôi đã tiết kiệm được 32% nhân lực và còn phát hiện ra 2 vấn đề (lỗi) trong quá trình triển khai.

Tháng trước, khi nhóm của chúng tôi xử lý các yêu cầu hậu mãi sau Black Friday, có 3 nhân viên chăm sóc khách hàng phải làm việc thêm giờ đến 11 giờ mỗi ngày trong vòng 3 ngày liên tiếp, nhưng vẫn có 27% người dùng phản hồi rằng thời gian chờ đợi phản hồi quá 2 giờ.

Trước hết, hãy làm rõ xem ChatGPT API thực sự là gì.

Đó chính là giao diện lập trình mà OpenAI cung cấp cho công chúng. Bạn có thể cung cấp dữ liệu kinh doanh của mình (chẳng hạn như quy tắc hoàn trả hàng, bảng thời gian vận chuyển) vào đó, và nó sẽ tạo ra nội dung trò chuyện theo những quy tắc đó mà không cần người dùng phải truy cập trang web chính thức của ChatGPT. Tốc độ phản hồi của giao diện trong các trường hợp sử dụng thông thường được công bố bởi nhà phát triển là...Thời gian trung bình cho mỗi yêu cầu là 120ms.Trong thực tế, trong các hoạt động kinh doanh, giá trị này sẽ thay đổi tùy thuộc vào độ dài của nội dung ngữ cảnh mà bạn cung cấp.

Ba khoản lợi nhuận thực tế mà chúng ta nhận được sau khi kết nối:

Điều đầu tiên là sự giảm đáng kể về chi phí nhân sự: Hiện nay, 80% các cuộc tư vấn thông thường (như tra cứu thông tin vận chuyển, hỏi về điều kiện hoàn trả hàng hóa) không cần sự tham gia của nhân viên nữa. Đội ngũ chăm sóc khách hàng của chúng tôi đã được giảm từ 7 người xuống còn 5 người, và nhờ đó, chi phí nhân sự hàng tháng được tiết kiệm 32%.

Điều thứ hai là chúng tôi đã thành công trong việc đối phó với áp lực cao: Năm ngoái, trong dịp Black Friday, có 13% yêu cầu của khách hàng bị mất do không thể được trả lời kịp thời bằng nhân viên. Nhưng sau khi triển khai API, 95% các yêu cầu được trả lời ngay trong vòng 10 giây trong thời gian cao điểm, và số lượng khiếu nại từ khách hàng đã giảm xuống 60%.

Điểm thứ ba là quy trình thực thi các quy tắc không bị sai lệch: Trước đây, nhiều nhân viên chăm sóc khách hàng mới thường nhớ sai thời hạn hoàn trả và đổi hàng ở các quốc gia khác nhau, dẫn đến những khoản tổn thất không đáng có. Hiện nay, các API được sử dụng đều dựa trên cùng một bộ quy tắc thống nhất, và kể từ khi chúng được triển khai cách đây 2 tháng, chưa có trường hợp nào xảy ra sai sót.

Hai “cạm bẫy” ẩn mà bạn rất có thể sẽ gặp phải

Vấn đề về giới hạn lưu lượng không nên bị xem thường: Chúng tôi vừa mới triển khai dịch vụ và chưa chuẩn bị kế hoạch dự phòng cho trường hợp xấu. Vào ngày Black Friday, lưu lượng truy cập bất ngờ vượt quá giới hạn mà chúng tôi đặt ra trong vòng nửa giờ, khiến 17% yêu cầu bị trả về lỗi 429, khiến người dùng chỉ thấy thông báo “Hệ thống đang bận”. Cuối cùng, chúng tôi phải tạm thời sử dụng nhân viên để xử lý các yêu cầu đó một cách thủ công mới giải quyết được vấn đề.

Thứ hai là việc cập nhật dữ liệu tùy chỉnh cần được thực hiện đồng bộ: Tháng trước, chúng tôi đã thay đổi quy định về hoàn hàng và đổi hàng cho khu vực Liên minh Châu Âu, và cơ sở dữ liệu quy tắc nền đã được cập nhật. Tuy nhiên, bộ đệm ngữ cảnh của API chưa được xóa, dẫn đến việc trong vòng 3 ngày, các phản hồi gửi đến khách hàng ở EU vẫn dựa trên quy định cũ, khiến chúng tôi phải bồi thường gần 2000 euro tiền phí vận chuyển thừa.

Ai nên sử dụng nó? Ai thực sự không cần phải đụng vào nó?

Nếu bạn đang kinh doanh dịch vụ hướng đến thị trường nước ngoài cho phía khách hàng doanh nghiệp (B2B) và gặp phải nhiều yêu cầu tư vấn về quy tắc hoặc truy vấn thông tin lặp đi lặp lại, chẳng hạn như dịch vụ khách hàng của các trang web thương mại điện tử, truy vấn lộ trình vận chuyển, hoặc câu hỏi trả lời về khách sạn, thì việc sử dụng công cụ này chắc chắn sẽ tiết kiệm chi phí hơn so với việc tuyển dụng nhân viên. Chỉ cần số lượng yêu cầu này vượt quá 10.000 mỗi tháng.

Nhưng nếu bạn đang thực hiện các dịch vụ có độ nhạy cao, chẳng hạn như tư vấn y tế, lời khuyên tài chính, hoặc quy tắc kinh doanh của bạn thay đổi hơn 3 lần mỗi tuần, thì đừng sử dụng nó nhé. Chi phí phát sinh từ lỗi sẽ cao hơn nhiều so với số tiền bạn tiết kiệm được.

3 lời khuyên cụ thể dành cho người mới bắt đầu

• Trước hết, hãy sử dụng dữ liệu tư vấn lịch sử trong 7 ngày để thử nghiệm. Chắc chắn rằng hệ thống có thể trả lời đúng ít nhất 80% các câu hỏi thông thường trước khi đưa nó vào sử dụng chính thức, đừng vội vàng thay thế hoàn toàn dịch vụ con người ngay từ đầu.
• Bạn nhất định phải dành ra 20% nguồn lực để xử lý các trường hợp cần sự can thiệp thủ công. Mỗi khi mức độ tin cậy do API trả về thấp hơn ngưỡng mà bạn đã đặt (chúng tôi đặt ở mức 90%), hãy chuyển trực tiếp công việc đó cho nhân viên để họ xử lý, đừng cố gắng để hệ thống tự động trả lời.
• Bạn không cần phải mua ngay lượng quyền gọi cao nhất ngay từ đầu; hãy mua một lượng quyền gọi bằng 1,2 lần mức đỉnh trung bình hàng ngày của bạn. Nếu không đủ, bạn có thể nâng cấp tạm thời sau. Việc điều chỉnh quyền gọi theo thông báo chính thức sẽ có hiệu lực trong vòng 2 giờ.

Cuối cùng, xin trả lời một câu hỏi mà mọi người thường đặt: Có nguy cơ rò rỉ dữ liệu không? Chúng tôi sử dụng API doanh nghiệp chính thức của OpenAI; miễn là bạn không truyền thông tin nhạy cảm của người dùng (như số thẻ tín dụng, số chứng minh thư) vào giao diện, OpenAI sẽ không sử dụng dữ liệu kinh doanh của bạn để huấn luyện mô hình. Ít nhất là sau nửa năm sử dụng, chúng tôi chưa gặp bất kỳ vấn đề nào.