Nous avons utilisé o3-mini pour générer 1,2 million de descriptions de produits, ce qui nous a permis d'économiser 62 % des coûts de raisonnement.

Le mois dernier, juste avant le Black Friday, notre service de génération de contenu a failli tomber en panne : le modèle général utilisé a soudainement vu son prix augmenter de 20 %, et la limite de trafic a été réduite de moitié. Pendant les périodes de pointe des tests, 17 % des demandes ont reçu le code d’erreur 429. L’équipe d’exploitation nous a pressés de savoir si les descriptions des 12 000 produits à réduire en prix prévus pour la journée pourraient être prêtes à temps. Avec une attitude d’essai, nous avons déplacé 30 % du trafic vers le système o3-mini, et non seulement nous avons survécu à toute la période de promotion, mais les coûts ont également été bien inférieurs à ce que nous avions anticipé.

Tout d’abord, il faut comprendre ce qu’est exactement o3-mini.

Il s'agit du modèle d'inférence léger que OpenAI vient de lancer dans Q1 en 2026, qui se concentre sur la génération de contenu structuré et les tâches d'inférence simple à faible latence. La fenêtre contextuelle maximale est de 128k et le coût du jeton n'est que 1 / 8 de GPT-4o.

Les 3 bénéfices les plus concrets que nous avons obtenus jusqu'à présent

• Pendant la période du Black Friday, 1,2 million de demandes de génération de descriptions de produits ont été effectuées.Le coût total de la réflexion a diminué de 62 % par rapport à l'utilisation précédente de GPT-4o.Aucun déclenchement de limitation de débit n’a eu lieu, même les demandes les plus nombreuses de l’heure précédant le début de la promotion ont été entièrement traitées.
• La plupart des demandes reçoivent leurs résultats en moins de 18 millisecondes. Auparavant, il y avait parfois des retards de plusieurs centaines de millisecondes en utilisant les grands modèles. Nous avons supprimé les messages d'attente de chargement du contenu de notre interface utilisateur, et le taux de conversion des utilisateurs a même augmenté de 0,8 pour cent.
• La capacité intégrée de génération multilingue nous évite de devoir effectuer des adaptations supplémentaires. La précision de la génération des descriptions en portugais et en espagnol pour les sites latino-américains a augmenté de 21 % par rapport aux petits modèles que nous ajustions nous-mêmes auparavant, ce qui permet d'économiser du temps aux opérateurs sur la relecture et la correction secondaire des contenus.

Ne vous précipitez pas pour effectuer le changement complet ; nous avons déjà rencontré ces problèmes.

Ne l’utilisez pas pour des raisonnements logiques complexes de recommandation de produits. Au début, nous avons essayé de fournir à ce système la séquence des navigations des utilisateurs pour générer des textes de recommandation personnalisés, mais sur 10 tentatives, 3 fois des erreurs de corrélation se sont produites : par exemple, des recommandations de tentes de camping ont été affichées sous des descriptions de lampes de camping. Finalement, nous avons décidé de réintégrer cette fonctionnalité dans le modèle plus large.

De plus, si votre activité nécessite l'utilisation d'outils, celui-ci ne prend en charge actuellement que jusqu'à trois appels d'outils en parallèle. Si le nombre d'appels dépasse ce chiffre, soit les opérations ne sont pas exécutées, soit des erreurs de paramètres sont retournées. Nous avons déjà rencontré plusieurs problèmes de précision des prix lorsque les appels à la base de données dépassaient deux fois. Nous avons maintenant modifié le système de manière à rediriger automatiquement les appels vers un modèle généraliste dès que le nombre d'outils utilisés dépasse deux.

Qui est adapté pour utiliser cela, et pour qui il est complètement inutile de s'y intéresser

Si votre scénario commercial consiste à générer des contenus structurés en masse, à effectuer une reconnaissance simple des intentions de l'utilisateur ou à répondre à des questions fréquentes (FAQ), et surtout si les petites et moyennes entreprises n'ont pas les ressources nécessaires pour ajuster leurs propres modèles, o3-mini est sans aucun doute la meilleure option en termes de rapport qualité-prix.

Mais si vous devez effectuer des débogages de code complexes, des raisonnements logiques à plusieurs étapes ou une analyse approfondie de documents longs, il est préférable de choisir un modèle généraliste. Dans ces cas, la précision des résultats fournis par o3-mini diminue considérablement, et vous devrez passer plus de temps à vérifier les résultats.

Deux conseils pratiques pour ceux qui l'utilisent pour la première fois

Mettez en place une phase de transition progressive du trafic pendant 7 jours, sans passer directement à la configuration complète. Au début, nous avons commencé par mettre en œuvre la fonctionnalité pour les étiquettes de produits non essentielles pendant 3 jours, et nous ne l'avons progressivement étendue aux scénarios clés des descriptions de produits que lorsque le taux d'erreurs était dans les limites acceptables, afin d'éviter tout impact négatif sur les activités en ligne.

Il est possible de mettre en place une couche de routage simple pour classer les demandes en fonction de leur complexité : les demandes simples sont traitées par o3-mini, tandis que les demandes plus complexes sont automatiquement acheminées vers le grand modèle. Cela permet d’économiser des coûts tout en ne nuisant pas à la performance dans les scénarios complexes. C’est exactement ce que nous faisons actuellement ; 90 % des demandes sont traitées par o3-mini, et les 10 % restantes, plus complexes, sont envoyées vers le grand modèle, ce qui a réduit les coûts de plus de la moitié.

Problèmes courants

Question : Faut-il effectuer des ajustements mineurs sur o3-mini ? Réponse : Si votre scénario concerne la génération de contenu général, ce n’est pas nécessaire du tout, l’effet natif est déjà suffisant. Cependant, dans le cas de scénarios comportant de nombreux termes propres à un secteur spécifique, vous pouvez fournir quelques centaines d’exemples pour effectuer des ajustements. Après ces ajustements, la précision des descriptions de produits pour la catégorie des pièces automobiles a augmenté de 14 %, tandis que le coût n’a augmenté que de 5 %.

Question : Est-ce que la sécurité des données est assurée ? Réponse : Par défaut, les modèles ne sont pas entraînés avec les données saisies par les utilisateurs. Si vous avez des exigences en matière de conformité, vous pouvez choisir une instance dédiée, ce qui entraînera une augmentation des coûts de 30 %. Cependant, les données seront entièrement isolées, ce qui est approprié pour le traitement de contenus liés à la confidentialité des utilisateurs.