Dopo aver integrato l’API di ChatGPT nel sistema di assistenza clienti dell’e-commerce, abbiamo risparmiato il 32% delle risorse umane e abbiamo anche risolto due problemi tecnici.

Il mese scorso, mentre il nostro team gestiva le richieste di assistenza post-vendita per il Black Friday, 3 addetti al servizio clienti hanno lavorato oltre l’orario per 3 giorni consecutivi fino alle 23:00, eppure il 27% degli utenti ha segnalato che il tempo di attesa per una risposta è stato superiore a 2 ore.

Prima di tutto, è necessario chiarire cosa sia esattamente l’API di ChatGPT.

Si tratta dell’interfaccia di programmazione aperta da OpenAI: puoi fornire i tuoi dati aziendali (ad esempio, le tue regole di reso e rimborso, i tempi di consegna) e l’interfaccia genererà il contenuto della conversazione in base a tali regole, senza che l’utente debba accedere al sito ufficiale di ChatGPT. Il punto di riferimento per la velocità di risposta dell’interfaccia in scenari comuni fornito dall’azienda è…Il tempo medio per una singola richiesta è di 120 ms.Nel contesto aziendale reale, il valore varierà in base alla lunghezza del contesto che fornisci.

Dopo l’accesso, abbiamo ottenuto 3 benefici concreti.

Il primo aspetto evidente è la riduzione dei costi laborali: ora l’80% delle richieste di consulenza ordinarie (come informazioni sui trasporti o domande riguardanti restituzioni e rimborsi) non richiede alcun intervento umano. Il nostro team di assistenza clienti è stato ridotto da 7 a 5 persone, il che significa un risparmio mensile di costi laborali del 32%.

Il secondo aspetto positivo è che il sistema è riuscito a gestire le pressioni di picco: lo scorso Black Friday il 13% delle richieste è andato perso a causa della mancanza di risposte umane in tempo reale; quest’anno, grazie all’integrazione dell’API, il 95% delle domande ricevute durante i periodi di punte ha ricevuto una risposta entro 10 secondi, riducendo di conseguenza il numero di lamentele degli utenti del 60%.

Il terzo aspetto importante è che l’esecuzione delle regole avviene in modo corretto: in passato, i nuovi membri del personale di assistenza clienti spesso commettevano errori riguardo ai termini di restituzione e rimborso per i diversi paesi, fornendo promesse errate che causavano perdite aggiuntive. Ora, grazie all’utilizzo di un’unica libreria di regole condivisa tramite API, non si sono verificati errori nemmeno dopo due mesi dall’attivazione del sistema.

Due trappole nascoste che molto probabilmente incontrerai…

Il primo problema è quello del limitazione del traffico: non dovreste sottovalutarlo. Abbiamo appena lanciato il servizio senza aver preparato un piano di backup, e il giorno di Black Friday il traffico ha superato improvvisamente il limite di chiamate previsto per mezz’ora. Il 17% delle richieste ha ricevuto l’errore 429, facendo sì che gli utenti vedessero solo il messaggio “Sistema occupato”. Alla fine, abbiamo dovuto intervenire manualmente per risolvere il problema.

Il secondo punto riguarda la necessità di sincronizzare le aggiornamenti dei dati personalizzati: il mese scorso abbiamo modificato le regole di reso e rimborso per l’Europa, e il database delle regole di backend è stato aggiornato, ma il cache del contesto dell’API non è stato pulito, il che ha causato risposte agli utenti europei basate ancora sulle vecchie regole per tre giorni, con un costo aggiuntivo di quasi 2000 euro per le spese di spedizione.

A chi dovrebbe essere destinato? E a chi davvero non serve nemmeno toccarlo?

Se si opera un business internazionale rivolto al settore B2C e si ha un gran numero di richieste ripetitive di tipo regolamentare o di informazioni, come assistenza clienti per e-commerce, tracciamento delle spedizioni o domande e risposte su hotel, utilizzare questo sistema è sicuramente più conveniente rispetto all'assumere personale. Basta che tali richieste superino le 10.000 al mese.

Ma se ti occupi di attività ad alta sensibilità, come consulenza medica, consulenza finanziaria, o se le tue regole aziendali cambiano più di tre volte a settimana, allora non usarlo: il costo di un errore è molto più alto rispetto al risparmio che potresti ottenere.

3 consigli concreti per chi inizia per la prima volta

• Prima utilizziamo i dati di consultazione storici degli ultimi 7 giorni per i test; dobbiamo assicurarci che il sistema risponda correttamente ad almeno l’80% delle domande più comuni prima di lanciarlo ufficialmente, per evitare di sostituire completamente il personale addetto alle risposte.
• È essenziale riservare un 20% di quote per l’intervento umano di risoluzione dei problemi. Non appena il livello di affidabilità restituito dall’API è inferiore al valore soglia che hai impostato (noi lo abbiamo fissato al 90%), passa direttamente all’intervento umano e non insistere affinché l’AI fornisca una risposta.
• Non è necessario acquistare subito la quota di chiamate più alta: inizialmente, acquista una quota pari a 1,2 volte il tuo picco di utilizzo quotidiano; se non fosse sufficiente, puoi aumentarla temporaneamente. I cambiamenti nella quota ufficiale entrano in vigore in soli 2 ore.

Infine, una domanda che tutti fanno spesso: esiste il rischio di perdita di dati? Utilizziamo un API aziendale ufficiale, quindi finché non invii informazioni sensibili degli utenti (come numeri di carta di credito o codici di identificazione) all’interfaccia, OpenAI non utilizzerà i tuoi dati aziendali per addestrare i modelli. Almeno, da quando lo usiamo da sei mesi, non abbiamo avuto alcun problema.