Nachdem wir die ChatGPT-API in unser E-Commerce-Kundenservice-System integriert haben, konnten wir 32 Prozent der Arbeitskraft einsparen und außerdem zwei Probleme umgehen.

Letzten Monat haben unsere Mitarbeiter bei der Bearbeitung von After-Sales-Anfragen zum Black Friday drei Tage lang täglich bis 23 Uhr Überstunden gemacht, und dennoch berichteten 27% der Kunden, dass die Wartezeit auf eine Antwort länger als zwei Stunden dauerte.

Zuerst sollten wir klarstellen, was die ChatGPT-API eigentlich ist.

Es handelt sich um die öffentlich zugängliche Programmierschnittstelle von OpenAI. Sie können Ihre eigenen Geschäftsdaten (z. B. unsere Rückgabe- und Umtauschregeln, Logistikzeitpläne) an diese Schnittstelle übergeben, und sie generiert daraufhin Dialoginhalte entsprechend Ihren Vorgaben – ohne dass der Benutzer auf die offizielle ChatGPT-Website wechseln muss. Der offiziell angegebene Referenzwert für die Reaktionsgeschwindigkeit der Schnittstelle in allgemeinen Szenarien lautet…Durchschnittliche Dauer einer einzelnen Anfrage: 120 msIm tatsächlichen Geschäftsalltag wird die Länge entsprechend der von Ihnen übergebenen Kontextlänge variieren.

Nach der Integration haben wir drei tatsächliche Erträge erzielt.

Der erste und offensichtlichste Vorteil ist die Reduzierung der Personalkosten: Heute werden 80% der regulären Anfragen (zum Beispiel nach der Logistik oder den Rückgabe- und Austauschbedingungen) vollständig ohne menschliche Betreuung bearbeitet. Unser Kundenservice-Team wurde von 7 auf 5 Personen reduziert, was zu einer monatlichen Ersparnis von 32% bei den Personalkosten führt.

Der zweite Punkt, der erfolgreich umgesetzt wurde, ist die Bewältigung des Spitzendrucks: Letztes Jahr verloren wir während des Black Friday 13 Prozent der Anfragen, weil die manuelle Antwortzeit nicht ausreichte. Nach der Integration der API konnten in der Spitzenzeit 95 Prozent der Anfragen innerhalb von 10 Sekunden mit einer ersten Antwort versehen werden, was zu einer direkten Reduzierung der Kundenbeschwerden um 60 Prozent führte.

Der dritte Punkt ist, dass die Ausführung der Regeln nicht verzerrt wird: Früher vergaßen viele neue Kundendienstmitarbeiter oft die Rückgabe- und Umtauschfristen für verschiedene Länder und gaben falsche Versprechen ab, was zu zusätzlichen Verlusten führte. Jetzt werden über die API einheitliche Regelbücher abgerufen, und seit der Einführung vor zwei Monaten gab es noch keinen Fehler.

Zwei versteckte Fallstricke, in die Sie mit großer Wahrscheinlichkeit tappen werden

Das erste Problem war das Themen der Bandbreitendrosselung – nehmen Sie es nicht auf die leichte Schulter: Wir haben gerade erst den Service gestartet und hatten keine Notfallpläne für solche Fälle vorbereitet. Am Black Friday überschritten die Anfragen plötzlich für eine halbe Stunde die von uns festgelegten Grenzen, wodurch 17 Prozent der Anfragen direkt mit einem Fehlercode 429 abgewiesen wurden. Die Benutzer konnten nur die Meldung „System ist beschäftigt“ sehen. Schließlich mussten wir kurzfristig menschliche Unterstützung hinzuziehen, um das Problem zu lösen.

Der zweite Punkt betrifft die Synchronisierung der Aktualisierungen von benutzerdefinierten Daten: Letzten Monat haben wir die Rückgabe- und Umtauschregeln für die EU-Region geändert. Die Regelbibliothek im Backend wurde aktualisiert, jedoch wurde der Kontext-Cache der API nicht gelöscht. Dadurch wurden den EU-Kunden drei Tage lang noch die alten Regeln angezeigt, was zu zusätzlichen Versandkosten in Höhe von fast 2000 Euro führte.

Wer sollte es benutzen? Wer braucht es wirklich nicht?

Wenn Sie im Bereich der C-End-Nachrichtenverarbeitung für internationale Geschäfte tätig sind und es viele wiederholte Anfragen zu Regelungen sowie Informationsabfragen gibt – beispielsweise von E-Commerce-Kundenbetreuung, Logistikverfolgung oder Hotelfragen – dann ist es definitiv kosteneffizienter, diese Anfragen mit dieser Lösung zu bearbeiten, wenn sie monatlich mehr als 10.000 betragen.

Aber wenn Sie mit hochsensiblen Dienstleistungen arbeiten, wie beispielsweise medizinischen Beratungen, Finanzplanung oder wenn sich Ihre Geschäftsregeln mehr als drei Mal pro Woche ändern, dann sollten Sie es nicht verwenden – der Kostenfaktor bei Fehlern übersteigt bei weitem das, was Sie einsparen.

Drei konkrete Ratschläge für Anfänger

• Zuerst verwenden wir die historischen Beratungsdaten der letzten 7 Tage für den Test. Wir müssen sicherstellen, dass das System mindestens 80% der üblichen Fragen richtig beantwortet, bevor es live geschaltet wird. Es sollte nicht sofort die gesamte manuelle Beratung ersetzen.
• Es muss immer ein Reserveplafond für manuelle Bearbeitung von 20% vorhanden sein. Sobald die Zuverlässigkeitswert, der von der API zurückgegeben wird, unter dem von Ihnen festgelegten Schwellenwert (wir haben 90% festgelegt) liegt, leiten Sie den Fall direkt an einen Menschen weiter und versuchen nicht, die Anfrage selbst zu beantworten.
• Man muss nicht gleich die höchste Anrufquote kaufen. Beginnen Sie mit einer Quote, die 1,2 Mal so hoch ist wie Ihre tägliche Spitzenbelastung. Wenn es nicht ausreicht, können Sie die Quote kurzfristig erhöhen. Die offizielle Anpassung der Quote tritt in der Regel innerhalb von 2 Stunden in Kraft.

Zum Schluss noch eine häufig gestellte Frage: Gibt es ein Risiko von Datenlecks? Wir verwenden die offizielle, unternehmensspezifische API. Solange Sie keine sensiblen Informationen der Nutzer (wie Kreditkartennummern oder Personalausweisnummern) an die Schnittstelle übertragen, wird OpenAI Ihre Geschäftsdaten nicht verwenden, um Modelle zu trainieren. Zumindest haben wir seit unserem Einsatz vor einem halben Jahr keine Probleme festgestellt.