私たちのチームは住所認識の処理をGPT-5に切り替えた結果、429エラーの割合が13%から0.2%に減少しました。しかし、予想外の問題に2回直面しました。

先月の大規模セールが終わったばかりで、私たち3人のバックエンドチームは監視パネルの前で72時間も監視を続けました。昨年の大規模セールでは、アドレス解決リクエストの13%が直接429のリミットに引っかかるという悪夢がありましたが、今年はそれが再び発生しませんでした。主な調整点はただ一つで、以前使用していた汎用の大規模モデルをすべてGPT-5に置き換えて、アドレスの構造化処理を行うようにしたことです。

まず、試したことのない人のためにはっきりさせておきますが、GPT-5とは私たちのようなシナリオにおいて一体何なのでしょうか？

それはOpenAIが今年アップデートした多モダル大規模モデルで、私たちにとって最も役立つパラメータアンカーポイントはたった一つだけです：単一アカウントが1分間に処理できる構造化されたリクエストの上限は、前世代のモデルの12倍です。また、非標準入力に対する認識精度が直接一桁上がりました。

私たちはヨーロッパの国境を越えた物流業務を行っており、毎日50万件ものユーザーが入力した住所を処理しています。多くの人が通りの名前、郵便番号、都市名を間違えて入力したり、適当に絵文字を追加したり、半分の文字を間違えて綴ったりします。以前のモデルでは、これらの誤りを正しく認識できなかったり、結果を得るために3回もインターフェースを呼び出さなければならなかったりしました。特にセールの時期にはトラフィックが急増し、すぐに制限がかかってしまいます。

GPT-5に切り替えた後、実際に得られた3つの利益

最初に最も直感的な点は、リミットリングの問題が直接解決されるということです。大セールのピーク時に429エラー率が0.2%に低下しました。、予備モデルキューを追加する必要すらなく、以前は負荷分散に費やしていた運用管理時間の30%を節約できました。

二つ目は住所認識の精度が向上したことです。以前は約8%の住所が人の手による二次確認が必要でしたが、現在ではその割合が1%未満になりました。その結果、カスタマーサービスチームは毎週2000件以上の住所訂正の依頼を処理する手間が減りました。

第三の機能についてはあまり人が言及していませんでしたが、手書きの伝票の写真を直接アップロードして認識できるという点が特徴です。OCRサービスを別途利用してテキストに変換する必要がなく、プロセスが2ステップ省けます。ほとんどのリクエストでは15ミリ秒以内に結果が返されますが、非常にぼやけた伝票の場合は少し時間がかかることがあります。

良い点だけを見ていてはいけません。私たちが踏み込んだこれらの落とし穴も、おそらくあなたたちも同じように遭遇するでしょう。

最初の問題は、小言語地域の方言の綴りに対する適応が不十分だったことです。多言語対応が十分に強いと思っていましたが、先週スペイン地域のバスク語の住所の認識誤り率が突然12％に上昇しました。調査したところ、トレーニングデータにはこのようなマイナーな方言の住所サンプルが非常に少なかったことがわかりました。そのため、現在はこの部分の住所に対してローカルルールを追加して対応しています。

二つ目の問題はコストです。以前の計算では、単一リクエストのトークンコストが前世代よりも20%高いだけだと考えていましたが、実際にはデフォルトで返される構造化フィールドが3つ増えていたため、トークンの実際のコストは40%増加していました。その後、プロンプト内で返されるフィールドを必要な5つに限定することで、コストを前世代よりも10%高いレベルに抑えることができました。

どのチームが直接取り組むべきか、どのチームは全く関与する必要がないか

• 必要なのは：毎日10万回以上の非標準化テキスト/画像の構造化処理のニーズがあり、以前はモデルのリミットによって処理速度が遅く、精度が不足していたチームです。例えば、eコマース、物流、カスタマーサービスのチケット処理を行う中小企業などです。これを変更すると、ROI（投資収益率）が非常に明確になります。
• 使用すべきではない：単純なQ&Aやコンテンツ生成を行うだけで、1日のリクエスト量が1万件にも満たないチームにとっては、この費用をかける必要は全くありません。前世代のモデルで十分対応でき、かえってコストを大幅に節約できます。

初めての方への2つの具体的なアドバイス

まず、過去7日間の実際のリクエストデータを使ってテストセットを作成してください。公式に提供されているサンプルだけでなく、特にマイナー言語やニッチな地域に関するコンテンツについても、事前に正確性を確認してください。そうしないと、サービスを開始した後に誤判が発生して大変なトラブルになる可能性があります。

第二に、初回の呼び出し時には、必要な返り値をプロンプトに直接書き込んでください。自由に動作させないでください。そうしないと、余分に生成される内容が不必要なトークンのコストをかなり消費してしまいます。

誰かが尋ねました：「今でもGPT-5を使うには列に並んで申請する必要がありますか？」

私たちは企業開発者アカウントです。資格を提出してから3日でアカウントが発行されますが、個人開発者の場合は1〜2週間待つ必要があります。緊急の場合は企業用のグリーンチャネルを利用することができ、その日にアカウントを開設することができます。