生成する最大のトークン数です。入力されたトークンと max_tokens の合計がモデルのコンテキストウィンドウを超えないようにしてください。一部のサービスはまだ更新中であるため、max_tokens をウィンドウの上限に設定することはお勧めしません。入力処理とシステムのコストを考慮してください。

生成する最大のトークン数です。入力されたトークンと max_tokens の合計がモデルのコンテキストウィンドウを超えないようにしてください。一部のサービスはまだ更新中であるため、max_tokens をウィンドウの上限に設定することはお勧めしません。入力とシステムの処理コストに約 10,000 トークンの余裕を確保してください。詳細については、以下を参照してください。 Models。