Après avoir intégré l'API de ChatGPT dans notre système de service client pour le e-commerce, nous avons économisé 32 % des ressources humaines et avons également évité deux problèmes importants.

Le mois dernier, lorsque notre équipe s'est occupée des demandes d'après-vente pendant la période du Black Friday, trois agents du service client ont travaillé des heures supplémentaires jusqu'à 23h pendant trois jours consécutifs. Malgré cela, 27 % des utilisateurs ont déclaré que le temps d'attente pour une réponse dépassait les deux heures.

Commençons par expliquer clairement ce qu’est l’API ChatGPT.

Il s'agit de l'interface de programmation ouverte par OpenAI. Vous pouvez y fournir vos données commerciales (comme nos règles de retour et d'échange, les tableaux de délais de livraison) et elle générera du contenu de conversation conformément à ces règles, sans que les utilisateurs aient besoin de se diriger vers le site officiel de ChatGPT. La vitesse de réponse de l'interface dans les scénarios généraux indiquée par les autorités est de...Le temps moyen de traitement d'une seule demande est de 120 ms.Dans les pratiques commerciales réelles, la longueur variera en fonction de la longueur du contexte que vous fournissez.

Les trois bénéfices réels que nous avons obtenus après l'intégration

Le premier point est la réduction directe des coûts de main-d'œuvre : actuellement, 80 % des demandes de conseil courantes (comme la vérification de la livraison ou les questions relatives aux retours et échanges) ne nécessitent plus aucune intervention humaine. Notre équipe de service client a été réduite de 7 à 5 personnes, ce qui représente une économie de 32 % sur les coûts de main-d'œuvre mensuels.

Le deuxième point positif est que nous avons réussi à gérer la pression aux moments de pic : l'année dernière, pendant la période de Black Friday, 13 % des demandes ont été perdues car les réponses manuelles n'étaient pas fournies à temps. Cette année, grâce à l'intégration de l'API, 95 % des demandes de conseil ont reçu une première réponse en moins de 10 secondes, ce qui a entraîné une baisse de 60 % du nombre de plaintes des utilisateurs.

Le troisième point est que l'exécution des règles ne se déforme pas : auparavant, de nombreux nouveaux agents de service client se souvenaient mal des délais de retour et d'échange pour différents pays, ce qui entraînait des promesses erronées et des pertes supplémentaires. Aujourd'hui, les API appellent une base de règles unifiée, et aucun problème n'a été signalé depuis le lancement, il y a deux mois.

Deux pièges cachés que vous risquez fort de rencontrer

Le premier problème est celui de la limitation de la charge : ne prenez pas cela à la légère. Nous venons de lancer le service sans avoir prévu de plan de reprise en cas de défaillance. Le jour du Black Friday, la charge a soudainement dépassé la limite de requêtes prévue, et 17 % des demandes ont reçu une erreur 429. Les utilisateurs n’ont vu qu’un message indiquant que “le système est occupé”. Finalement, nous avons dû recourir à une solution manuelle d’urgence pour résoudre le problème.

Le deuxième point concerne la synchronisation des mises à jour des données personnalisées : le mois dernier, nous avons modifié les règles de retour et d'échange pour la région de l'Union européenne. La base de règles en arrière-plan a été mise à jour, mais le cache de contexte de l'API n'a pas été effacé, ce qui a entraîné des réponses aux utilisateurs européens basées sur les anciennes règles pendant trois jours, entraînant des frais de livraison supplémentaires d'environ 2000 euros.

À qui devrait-il être destiné ? Qui n’a vraiment pas besoin de s’en occuper ?

Si vous êtes en train de développer des activités à l'international pour le marché des entreprises (B2B), et que vous recevez un grand nombre de demandes répétées concernant des règles ou des informations, telles que des questions de service client pour le e-commerce, des recherches de trajectoires de livraison ou des questions-réponses sur les hôtels, et que le nombre de ces demandes dépasse 10 000 par mois, l'utilisation de cette solution est certainement plus économique que de recruter du personnel.

Mais si vous travaillez dans des domaines à haute sensibilité, tels que les consultations médicales ou les conseils financiers, ou si vos règles d'affaires changent plus de trois fois par semaine, alors ne l'utilisez pas. Le coût des erreurs est bien supérieur à l'économie que vous pourriez réaliser.

3 conseils concrets pour ceux qui commencent pour la première fois

• Commencez par tester les données de consultation historiques sur une période de 7 jours. Assurez-vous que le système réponde correctement à au moins 80 % des questions courantes avant de le mettre en ligne. Ne remplacez pas entièrement le personnel dès le début.
• Il est essentiel de réserver 20 % de la capacité de traitement pour les interventions manuelles de réserve. Dès que le niveau de confiance retourné par l’API est inférieur au seuil que vous avez défini (nous avons fixé ce seuil à 90 %), dirigez automatiquement la demande vers une intervention humaine et n’essayez pas de faire en sorte que l’algorithme réponde lui-même.
• Il n’est pas nécessaire d’acheter dès le début la plus haute quantité de quotas d’appel possible. Commencez par acheter 1,2 fois la quantité correspondant à votre pic de demande quotidien, et si cela ne suffit pas, augmentez-la temporairement. Les ajustements des quotas officiels peuvent prendre effet en seulement 2 heures.

Pour terminer, voici une question que beaucoup de gens se posent : y a-t-il un risque de fuite de données ? Nous utilisons une API officielle à niveau d'entreprise, et tant que vous n'envoyez pas d'informations sensibles des utilisateurs (comme les numéros de carte de crédit ou les numéros de carte d'identité) à l'interface, OpenAI ne utilisera pas vos données commerciales pour entraîner ses modèles. Du moins, nous n'avons pas rencontré de problèmes depuis que nous l'utilisons, et cela fait déjà six mois.