阿里巴巴集团 Qwen4-Max-Preview 模型最近在处理 token 限制方面的一项更改导致了意外的空回复。以前,`max_tokens` 主要限制生成答案的长度,但该模型现在将此限制用于推理过程和最终输出。这意味着模型可能会将其全部 token 预算用于思考,而没有留下生成答案的空间,即使 API 返回成功的 HTTP 200 状态码。集成此模型的开发者,尤其是在 AIHubMix 等平台上,需要调整其 token 限制或推理设置以适应此更改,阿里巴巴建议在新集成中使用 `max_completion_tokens`。 AI
影响 使用 Qwen4-Max-Preview 的开发者必须调整 token 设置,以避免因推理和输出 token 计算方式的更改而导致空回复。
排序理由 该条目讨论了一个特定模型和平台的特定技术问题及其解决方案,而不是一个普遍的发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →