要生成的最大 token 数量。确保输入 token 与 max_tokens 之和不超过模型的上下文窗口。由于部分服务仍在更新中,建议不要将 max_tokens 设置为窗口上限;为输入和系统开销预
要生成的最大 token 数量。确保输入 token 与 max_tokens 之和不超过模型的上下文窗口。由于部分服务仍在更新中,建议不要将 max_tokens 设置为窗口上限;为输入和系统开销预留约 10k token 的缓冲空间。详情请参见 Models。
有用吗?
要生成的最大 token 数量。确保输入 token 与 max_tokens 之和不超过模型的上下文窗口。由于部分服务仍在更新中,建议不要将 max_tokens 设置为窗口上限;为输入和系统开销预留约 10k token 的缓冲空间。详情请参见 Models。
有用吗?