实体
allam-2-7b
allam-2-7b
PulseAugur coverage of allam-2-7b — every cluster mentioning allam-2-7b across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Groq 的免费套餐按声明的 token 计费，而非生成的 token，导致错误
Groq 的免费套餐根据用户请求中声明的最大 token 数收费，而不是实际生成的 token 数。如果声明的 `max_tokens` 设置得很高，即使是小型提示也可能导致“请求过大”的错误。计费基于所有模型共享的每分钟 8,000 个 token (TPM) 预算，这意味着一次大的声明可能会消耗掉一整分钟的额度。这种行为对 AI 代理尤其成问题，因为它们经常在提示中包含工具模式，导致意外的 token 消耗和错误。
-
Groq API 的模型列表包含非聊天模型和隐藏的令牌限制
对 Groq API 模型列表的审查发现，十四个已宣传的模型中有五个无法进行聊天补全。这些非聊天模型包括语音转文本和文本转语音变体，以及一个错误地将自身标识为 OpenAI GPT OSS 120B 的路由器模型。此外，一些模型存在无法发现的输出令牌限制，例如 llama-prompt-guard 模型最多需要 512 个令牌，而 allam-2-7b 模型需要 4096 个令牌，这些在模型列表中并未标明。