동남아시아의 뷰티 제품 전문 독립 웹사이트가 AI 고객 서비스를 사내에 독립적으로 구축한 후, Q2의 문의 전환율이 27% 증가했습니다.

지난달 싱가포르의 뷰티 DTC(Direct to Consumer) 사업을 하는 친구 팀을 도와 문제를 조사했습니다. 그들은 5명으로 구성된 소규모 팀이었는데, 이전에는 제3자가 제공하는 SaaS 기반의 AI 고객 서비스를 사용하고 있었습니다. 대규모 프로모션 기간 동안 고객들이 보낸 피부 타입에 관한 문의에 대한 답변이 30초 이상 걸렸으며, 가장 심각했던 프로모션 날에는 40분 동안 아예 답변이 없었습니다. 그 결과 거의 5분의 1에 달하는 주문이 손실되었습니다.

먼저 이해해야 할 것은: 프라이빗 배포(Privatization Deployment)가 도대체 무엇인가입니다.

용어에 혼란스러워하지 마세요. 간단히 말해, 사용하고자 하는 소프트웨어, 모델, 데이터를 자신의 서버나 전용 클라우드 인스턴스에 모두 저장하여 다른 사용자들과 공유하는 서비스 제공업체의 공용 리소스를 사용하지 않는 것입니다. 이번에 우리가 그들에게 배포한 고객 서비스용 대형 모델은 전용 컴퓨팅 자원을 확보하여 동시에 1200명의 사용자가 상담을 요청할 수 있도록 했습니다. 더 이상 수백 개의 사업체들과 공용 컴퓨팅 자원을 경쟁할 필요가 없습니다.

실제로 돈으로 이루어진 3가지 수익원

우리가 서비스를 시작한 후 30일간의 데이터를 분석한 결과, 가장 눈에 띄는 세 가지 변화는 다음과 같습니다:

• 먼저, 응답 속도가 6배로 향상되었으며, 90%의 문의에 대해 1초 이내에 답변을 받을 수 있습니다.문의 전환율이 27%나 증가했습니다.이전에 많은 사용자들이 답변을 기다리지 못하고 바로 페이지를 닫아버리는 문제가 거의 사라졌습니다.
• 둘째로, 모든 데이터는 사용자 자신의 손에만 남아 있습니다. 사용자의 피부 타입, 알레르기 이력, 선호 사항과 같은 정보는 서비스 제공업체의 공용 데이터베이스에 저장되지 않으므로, 경쟁업체가 서비스 제공업체의 데이터를 통해 사용자 프로필을 재분석하는 것을 걱정할 필요가 없습니다. 이는 또한 동남아시아 지역의 PDPA(개인정보보호법) 데이터 규정을 완전히 준수합니다.
• 마지막으로 비용이 오히려 줄었습니다. 이전에는 상담 건수에 따라 요금을 부과했는데, 대규모 프로모션 달에는 서비스 비용이 평소의 3배까지 급등했습니다. 이제는 연간 구독하는 클라우드 서버와 모델 라이선스 비용을 합산하면, 1년 동안 SaaS 비용의 약 4개월 분을 절약할 수 있습니다.

차에 타기 전에 서두르지 마세요. 먼저 이 몇 가지 함정들을 피할 수 있는지 확인해 보세요.

우리가 배포할 때도 크지도 작지도 않은 두 가지 문제에 부딪혔는데, 만약 시도해보고 싶다면 미리 피할 수 있을 거예요:

첫 번째로, 초기 적응에는 시간이 필요합니다. 이전 SaaS의 고객 서비스 대화 템플릿을 그대로 사용할 수는 없었기 때문에, 지난 2년간의 사용자 문의 데이터를 분석하여 조정하는 데 일주일의 시간을 보냈습니다. 그 결과 이전 SaaS보다 더 높은 응답 정확도를 달성할 수 있었습니다. 단순히 버튼을 클릭하는 것만으로는 바로 사용할 수 없는 것이죠.

두 번째로는 정기적으로 사람이 유지보수를 해야 합니다. 별도로 운영 및 유지보수 팀을 고용할 필요가 없습니다. 그들의 백엔드 엔지니어들이 매주 1시간씩 모니터링을 확인하고 스크립트 라이브러리를 업데이트하는 것만으로도 충분합니다. 만약 팀에 서버에 대해 조금이라도 이해하는 사람이 없다면, 오히려 문제가 발생하기 쉽습니다.

누가 사용해야 할까? 누군가는 전혀 만지지 않아도 되는 거 아닐까?

직접 경계를 설정해 주세요, 남들을 따르지 마세요: <<<MGSEG_E0357ED2CB9F_END>>>

해당하는 경우는 다음과 같습니다: 1. 데이터 보안 요구가 매우 높은 경우, 예를 들어 국제 결제나 의료 상담 서비스를 제공하는 경우입니다. 2. 대규모 프로모션 기간 동안 트래픽이 급격히 증가하여 독립 웹사이트나 전자상거래 사이트의 성능이 저하되는 경우입니다. 3. 사용하는 지역에서 사용자 데이터의 해외 전송에 대한 엄격한 규제가 있는 경우입니다. 이 중 하나에 해당한다면 고려해 볼 수 있습니다.

사용하지 말아야 할 것: 팀원이 총 두세 명뿐이고, 기술을 이해하지 못하는 사람도 있습니다. 업무량도 안정적이며, 평소에 SaaS를 사용해도 전혀 문제가 없습니다. 소위 “기술적으로 진보적”이라는 이유로 무모하게 시도하지 마세요. 그저 돈 낭비일 뿐입니다.

처음 시작하는 분들을 위한 실용적인 조언들

만약 당신이 위의 적응 조건을 충족한다면, 처음에는 바로 전체를 한 번에 전환하지 마세요:

먼저 20%의 트래픽을 전환하여 2주 동안 테스트해보세요. 응답 속도, 정답률, 비용이 실제로 예상에 부합하는지 확인한 후에 전체 트래픽을 전환하세요. 처음부터 가장 비싼 서버를 구매할 필요는 없습니다. 평소 피크 트래픽의 1.5배 정도로 설정하면 충분합니다. 나중에 필요하면 확장하면 되니, 많은 돈을 낭비하지 않을 것입니다.

여러분이 아마도 자주 물어볼 법한 몇 가지 질문들

“소규모 팀도 가능한가요?” 우리가 도왔던 팀은 백엔드 개발자가 단 한 명뿐이었는데, 우리와의 협력을 통해 3일 만에 모든 것을 배포할 수 있었습니다. 시작 장벽이 생각하시는 것만큼 높지 않았어요.

“SaaS보다 훨씬 더 복잡할까요?” 초기 디버깅을 마친 후에는 후속 유지보수 작업의 양이 거의 없었습니다. 두 달 동안 대화록을 한 번 업데이트한 것 외에는 아무런 문제도 발생하지 않았습니다.

「데이터 보안이 정말 SaaS보다 낫나요?“ 서비스 제공업체가 프라이빗화를 제대로 수행한다면, 데이터는 귀하의 서버에서 전혀 유출되지 않으므로 공공 서비스 제공업체의 풀에 저장되는 것보다 훨씬 더 안전합니다.