Después de integrar la API de ChatGPT en nuestro sistema de atención al cliente de comercio electrónico, ahorramos un 32% de recursos humanos y también superamos dos problemas importantes.

El mes pasado, mientras nuestro equipo manejaba las solicitudes de postventa durante el Black Friday, 3 empleados del servicio al cliente trabajaron horas extras hasta las 11 de la noche durante 3 días consecutivos, y aún así el 27% de los usuarios informó que el tiempo de espera para obtener una respuesta superó las 2 horas.

Primero, hay que aclarar qué es exactamente la API de ChatGPT.

Se trata de la interfaz de programación abierta de OpenAI; puedes proporcionarle tus datos comerciales (como nuestras reglas de devolución y reembolso, tablas de tiempos de entrega logísticas), y ella generará el contenido de la conversación de acuerdo con esas reglas, sin que el usuario tenga que acceder al sitio web oficial de ChatGPT. El punto de referencia para la velocidad de respuesta de la interfaz en escenarios generales proporcionado por los desarrolladores es...El tiempo promedio de cada solicitud es de 120 ms.En la práctica comercial, el valor variará según la longitud del contexto que usted proporcione.

Los tres beneficios reales que obtuvimos después de la integración

El primero es la disminución más evidente en los costos laborales: ahora el 80% de las consultas habituales (como consultar el estado de los envíos o preguntar sobre condiciones de devolución y reembolso) no requiere intervención humana. Nuestro equipo de atención al cliente ha pasado de 7 personas a 5, lo que significa que ahorramos un 32% en costos laborales mensualmente.

El segundo punto que ha tenido éxito es que hemos podido soportar las cargas de pico: el año pasado, durante el Black Friday, el 13% de las solicitudes se perdieron debido a que no había personal disponible para responderlas manualmente. Este año, después de implementar la API, el 95% de las consultas recibidas durante los períodos de mayor demanda reciben una primera respuesta en menos de 10 segundos, lo que ha llevado a una disminución del 60% en el número de quejas de los usuarios.

El tercero punto es que la ejecución de las reglas no se desvía de su curso: anteriormente, los empleados de atención al cliente novatos a menudo recordaban incorrectamente los plazos de devolución y reembolso para diferentes países, lo que causaba pérdidas adicionales debido a promesas erróneas. Ahora, las llamadas a API utilizan una base de reglas unificada, y desde su implementación hace dos meses, no ha habido errores.

Dos trampas ocultas en las que es muy probable que te metas

El primer problema es el de la limitación de tráfico; no lo subestimes: justo cuando lanzamos el servicio y no teníamos un plan de contingencia, el día de Black Friday se superó repentinamente el límite de llamadas que habíamos establecido en media hora. El 17% de las solicitudes devolvió un error 429, y los usuarios solo pudieron ver el mensaje “El sistema está ocupado”. Al final, tuvimos que recurrir a personal para resolver el problema de manera temporal.

Lo segundo es que la actualización de los datos personalizados debe ser sincronizada: el mes pasado modificamos las reglas de devolución y reembolso para la región de la Unión Europea, y la base de datos de reglas en el backend se actualizó, pero el caché de contexto de la API no se limpió, lo que resultó en que las respuestas enviadas a los usuarios de la UE durante 3 días siguieran refiriéndose a las reglas antiguas, lo que nos costó casi 2000 euros en gastos de envío adicionales.

¿Quién debería usarlo? ¿Quién realmente no necesita tocarlo?

Si estás trabajando en negocios internacionales dirigidos al mercado chino y enfrentas una gran cantidad de consultas repetitivas relacionadas con reglas o solicitudes de información, como atención al cliente en comercio electrónico, seguimiento de rutas de envío o preguntas y respuestas sobre hoteles, definitivamente será más económico utilizar esta solución que contratar personal. Esto es especialmente cierto si el número de solicitudes mensuales supera las 10,000.

Pero si estás trabajando en un negocio de alta sensibilidad, como consultoría médica, asesoramiento financiero, o si tus reglas de negocio cambian más de tres veces a la semana, entonces no lo uses, ya que el costo de cometer un error es mucho mayor que el ahorro que puedas obtener.

3 consejos concretos para quienes empiezan por primera vez

• Primero, use los datos de consultas históricas de los últimos 7 días para realizar pruebas. Asegúrese de que el sistema responda correctamente al menos al 80% de las preguntas comunes antes de lanzarlo oficialmente. No reemplace completamente el servicio humano de inmediato.
• Es esencial reservar un 20% de cuota para intervenciones manuales de respaldo. Cada vez que el nivel de confianza devuelto por la API sea inferior al umbral que has establecido (en nuestro caso, el 90%), debes pasar directamente el caso a un operador humano en lugar de esperar a que la solución automática proporcione una respuesta.
• No es necesario comprar la cuota de llamadas más alta desde el principio; comience comprando una cuota que sea 1.2 veces superior a su pico diario de uso. Si no es suficiente, puede aumentarla temporalmente. Los ajustes oficiales en la cuota toman efecto en un plazo de hasta 2 horas.

Finalmente, vamos a responder a una pregunta que muchas personas hacen: ¿Existe algún riesgo de filtración de datos? Utilizamos la API empresarial oficial, y siempre que no envíes información sensible de los usuarios (como números de tarjeta de crédito o números de identificación) a la interfaz, OpenAI no utilizará tus datos comerciales para entrenar sus modelos. Al menos, hemos estado utilizando esta API durante medio año sin ningún problema.