openai/gpt-oss-safeguard-20b

Groq API 速率限制错误地基于声明的 max_tokens 来阻止请求

使用 Groq API 的开发者遇到了一个问题，即速率限制是基于声明的 `max_tokens`，而不是模型实际生成的 token 数。这意味着即使提示很小且没有生成任何 token，请求也可能被拒绝并返回 413 错误。这种行为会影响托管在 Groq 上的多个模型，包括来自 OpenAI 和阿里巴巴集团的 Qwen 模型。该问题似乎是跨模型的滚动窗口，而不是特定于单个模型，如果默认 `max_tokens` 设置得太高，可能会导致代理框架失败。