Depois de integrarmos a API do ChatGPT ao sistema de atendimento ao cliente do e-commerce, economizamos 32% da mão de obra e também encontramos dois problemas (ou “buracos”) no processo.

No mês passado, enquanto nosso time lidava com pedidos de pós-venda durante o Black Friday, 3 funcionários do atendimento ao cliente trabalharam horas extras todos os dias até as 23h por 3 dias consecutivos, mas ainda assim 27% dos usuários relataram que o tempo de espera para uma resposta ultrapassou 2 horas.

Vamos esclarecer primeiro o que é exatamente a API do ChatGPT.

É a interface de programação aberta pela OpenAI; você pode fornecer seus próprios dados de negócios (como nossas regras de devolução e troca, tabelas de prazos de entrega) para que ela gere o conteúdo da conversa de acordo com essas regras, sem a necessidade de o usuário acessar o site oficial do ChatGPT. O ponto de referência para a velocidade de resposta da interface em cenários gerais fornecido pela empresa é...O tempo médio de resposta a uma única solicitação é de 120 ms.Na prática dos negócios, o valor pode variar de acordo com o comprimento do contexto que você fornecer.

Os 3 benefícios reais que recebemos após a conexão

A primeira redução é a mais óbvia: o custo com mão de obra diminuiu significativamente. Agora, 80% das consultas comuns (como informações sobre logística ou perguntas sobre reembolsos e trocas) não precisam mais ser atendidas por pessoas. Nossa equipe de atendimento ao cliente foi reduzida de 7 para 5 pessoas, o que resultou em uma economia de 32% no custo mensal com mão de obra.

O segundo ponto é que a capacidade de suportar as pressões de pico foi mantida: no ano passado, durante o Black Friday, 13% das solicitações foram perdidas devido à incapacidade de responder manualmente. Este ano, após a integração com a API, 95% das consultas receberam uma primeira resposta em menos de 10 segundos, o que resultou em uma redução de 60% no número de reclamações dos usuários.

O terceiro ponto é que a execução das regras não sofre distorções: antes, os atendentes novatos frequentemente cometiam erros ao lembrar dos prazos de devolução e troca para diferentes países, o que resultava em perdas adicionais devido a promessas erradas. Agora, as chamadas à API utilizam um banco de regras unificado, e mesmo após dois meses de funcionamento, ainda não houve nenhum erro.

Dois problemas ocultos que você provavelmente vai encontrar

O primeiro problema é o de limitação de tráfego; não o subestime: acabamos de lançar o produto sem ter preparado um plano de contingência. No dia do Black Friday, de repente, tivemos mais de meia hora excedendo o limite de chamadas que havíamos estabelecido, e 17% das solicitações retornaram o erro 429. Os usuários só viram a mensagem “sistema ocupado”, e no final tivemos que recorrer a soluções manuais emergenciais para resolver o problema.

O segundo ponto é que a atualização dos dados personalizados deve ser sincronizada: no mês passado, alteramos as regras de devolução e troca para a região da União Europeia, e o banco de regras do backend foi atualizado. No entanto, o cache de contexto do API não foi limpo, o que resultou em respostas para os usuários da UE com as regras antigas por três dias, causando um custo adicional de transporte de quase 2000 euros.

Quem deve usá-lo? Quem realmente não precisa sequer tocar nele?

Se você estiver trabalhando com negócios internacionais voltados para o mercado chinês e tiver uma grande quantidade de consultas repetitivas relacionadas a regras, como suporte ao cliente em comércio eletrônico, consulta de rastreamento de entregas ou perguntas e respostas sobre hotéis, e essas solicitações ultrapassarem 10.000 por mês, usar essa solução certamente será mais econômico do que contratar funcionários.

Mas se você trabalha com negócios de alta sensibilidade, como consultoria médica, recomendações de gestão financeira, ou se as regras do seu negócio mudam mais de três vezes por semana, então não use isso; o custo de um erro é muito maior do que a economia que você pode obter.

3 dicas práticas para quem está começando

• Primeiro, use os dados de consultas históricas dos últimos 7 dias para fazer os testes. Assegure-se de que o sistema responda corretamente a pelo menos 80% das perguntas comuns antes de lançá-lo oficialmente. Não substitua completamente o serviço humano de uma só vez.
• É necessário reservar uma cota de 20% para intervenção humana de reserva. Sempre que a confiança retornada pelo API for inferior ao limiar que você estabeleceu (nós definimos como 90%), direcione o caso para a intervenção humana imediatamente; não tente forçar o sistema a fornecer uma resposta.
• Não é necessário comprar a maior cota de chamadas desde o início; compre inicialmente 1,2 vezes a sua média diária de uso. Se não for suficiente, você pode aumentá-la temporariamente. As alterações nas cotas oficiais entram em vigor em até 2 horas.

Finalmente, uma pergunta que muitas pessoas fazem: existe algum risco de vazamento de dados? Nós usamos a API empresarial oficial, e desde que você não envie informações sensíveis dos usuários (como números de cartão de crédito ou números de identidade) para a interface, a OpenAI não usará seus dados de negócios para treinar modelos. Pelo menos, não tivemos problemas com isso nos últimos seis meses.