LLM的定价结构可能具有误导性,尤其是在处理超过20万个token的长提示时。像Gemini 3.1 Pro和Grok 4.6这样的模型在此阈值以上会将其输入和输出token费率加倍,而OpenAI的费率在超过27万个token的上下文时则不明确。Claude 4.6和Claude Opus 5是例外,它们在其整个100万token的上下文窗口中提供一致的定价,使得它们在需要广泛上下文的任务中更具成本效益。DeepSeek也通过基于一天中不同时间进行定价而有所不同,并且一些模型的缓存读取费率与通常假设的不同。 AI
影响 强调了隐藏的定价层如何显著影响使用LLM处理复杂任务的成本,敦促用户关注超出表面费率的因素。
排序理由 对LLM定价结构及其对用户的影响进行的分析。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →