Мы использовали инструмент o3-mini для генерации 1,2 миллиона запросов к описаниям товаров, что позволило нам сэкономить 62% на затратах на обработку данных.

В прошлом месяце, накануне праздника Черная пятница, наша служба генерации контента чуть не вышла из строя: общий большой модель, который мы использовали, внезапно подорожал на 20%, а порог ограничения трафика был снижен вдвое. Во время пиковых тестов 17% запросов получали ошибку 429. Команда по операциям постоянно спрашивала, сможем ли мы вовремя подготовить описания для 12 000 товаров со скидками, которые должны были быть опубликованы в тот день. Решив рискнуть, мы перенаправили 30% трафика на систему o3-mini, и в итоге не только справились со всеми обязательствами во время акции, но и снизили затраты значительно ниже ожидаемого уровня.

Давайте сначала разберемся: что же такое o3-mini?

Это легкая модель рассуждений, которую OpenAI только что запустила в 2026 году в Q1, основное внимание уделяется созданию структурированного контента и простым рассуждениям с низкой задержкой, максимальное контекстное окно составляет 128k, а стоимость токенов составляет 1 / 8 от GPT-4o.

Три наиболее значимых дохода, которые мы получили за это время:

• В период Black Friday было сделано 1,2 миллиона запросов на генерацию описаний товаров.Затраты на общее моделирование снизились на 62% по сравнению с использованием GPT-4o.Ни один случай ограничения пропускной способности не был зафиксирован; даже пиковый объем запросов за час до начала акции был полностью обработан.
• Большинство запросов получают ответы в течение 18 миллисекунд; раньше, при использовании больших моделей, иногда наблюдалась задержка в несколько сотен миллисекунд. Мы убрали сообщения о ожидании загрузки контента на нашем фронтенде, и в результате показатель конверсии пользователей увеличился на 0,8 процентных пункта.
• Встроенная возможность мультиязычного генерирования не требует от нас дополнительных настроек; точность генерации описаний на португальском и испанском языках для латиноамериканских сайтов увеличилась на 21% по сравнению с более ранними, небольшими моделями, которые требовали дополнительной настройки. Теперь операционным службам не нужно тратить время на повторную проверку контента.

Не спешите с полным переходом на новую версию – мы уже столкнулись с несколькими проблемами при её использовании.

Не используйте это для сложных логических алгоритмов рекомендаций товаров. Сначала мы попытались подавать пользовательские последовательности просмотров в этот системный компонент, чтобы получить персонализированные рекламные тексты, но из 10 попыток в 3 случаях возникали ошибки связи: например, рекомендации к открытым палаткам попадали рядом с описаниями кемпинговых фонарей. В итоге мы снова перешли к использованию более мощных больших моделей для генерации рекомендаций.

Если ваш бизнес требует использования инструментов, то в настоящее время они поддерживают только одновременное выполнение не более трех запросов. Если количество запросов превышает это значение, либо некоторые из них могут не быть выполнены, либо возвращаются ошибочные данные. У нас уже были случаи, когда при выполнении более двух запросов к системе поиска запасов возникали проблемы с точностью отображения цен. Теперь, если количество запрашиваемых инструментов превышает два, запросы автоматически перенаправляются на общий большой модельный алгоритм для обработки.

Кому это подходит, а кому совсем не стоит этим заниматься

Если ваша бизнес-сценария включает в себя массовое создание структурированного контента, выполнение простых задач по распознаванию намерений пользователей или подготовку стандартных ответов на частые вопросы (FAQ), особенно если у малых и средних предприятий нет дополнительных ресурсов для самостоятельной настройки малых моделей, o3-mini является оптимальным выбором с точки зрения соотношения цены и качества.

Но если вам нужно отладить сложный код, провести многоступенчатое логическое рассуждение или провести глубокий анализ длинных документов, лучше выбрать общие большие модели. В этом случае точность выводов o3-mini значительно снижается, и на проверку результатов уйдет гораздо больше времени.

Два практических совета для тех, кто использует это впервые

Сначала проведите 7 дней градуального внедрения изменений в области трафика, не переключаясь сразу на полный режим работы системы. Сначала мы перевели на новую версию системы сценарии, связанные с генерацией меток для неосновных товаров, и проверили их работу в течение 3 дней; только после того, как убедились, что уровень ошибок находится в приемлемых пределах, мы постепенно перевели на основные сценарии, связанные с описаниями товаров, чтобы избежать проблем, которые могли бы повлиять на работу онлайн-бизнеса.

Можно создать простой уровень маршрутизации, который будет классифицировать запросы по степени их сложности: простые запросы будут обрабатываться с помощью o3-mini, а сложные автоматически перенаправляться на более мощные модели. Такой подход позволяет сэкономить ресурсы и при этом не снижать качество обработки сложных сценариев. Мы именно так и делаем сейчас — 90% запросов обрабатываются с помощью o3-mini, а оставшиеся 10% сложных запросов — с использованием более мощных моделей. В результате общие затраты снизились более чем вдвое.

Распространенные мелкие проблемы

Вопрос: Стоит ли провести небольшую настройку (тюнинг) для o3-mini? Ответ: Если ваша сценария использует общие форматы генерации контента, то это совершенно необязательно – встроенные функции уже достаточно эффективны. Однако если речь идет о сценариях, в которых используется большое количество специфических терминов отрасли, можно предоставить несколько сотен примеров для настройки. В результате наша система описания автозапчастей показала улучшение точности на 14%, при этом затраты увеличились всего на 5%.

Вопрос: Безопасны ли данные? Ответ: По умолчанию модели не тренируются с использованием пользовательских вводимых данных. Если у вас есть требования к соблюдению правил, вы можете выбрать эксклюзивный инстанс для развертывания; стоимость в этом случае увеличится на 30%, но данные будут полностью изолированы, что подходит для обработки информации, связанной с конфиденциальностью пользователей.