实体
CloudZero
CloudZero
PulseAugur coverage of CloudZero — every cluster mentioning CloudZero across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
LLM成本通过分词膨胀而非费率上涨而增加 · 跟踪1个来源
LLM提供商通过改变分词方式来增加用户成本，而无需更改其宣传费率。例如，Anthropic的Claude Opus 4.7使用了一种新的分词器，将分词数量增加了1.0-1.35倍，导致用户账单增加12-27%。这种“分词器税”与其他因素加剧，例如输出分词溢价、长上下文附加费以及模型升级期间的缓存失效成本。为了管理这些隐藏成本，建议用户按任务而非按请求计量分词，并在每次模型升级后重新评估成本。
-
开发者在错误的LLM模型上浪费了60%的API支出
对一百万次LLM API调用的最新分析显示，由于开发者默认使用比任务所需更昂贵、更强大的模型，AI支出中有很大一部分被浪费了。研究发现，通过实施模型路由和提示缓存策略，60-70%的API调用可以由更便宜的模型处理，潜在节省高达95%。这种效率低下导致AI成本不断上升，到2025年，每家公司的平均月支出达到85,500美元。
-
敦促企业按客户跟踪LLM成本以实现盈利
一篇新文章讨论了企业按客户跟踪其大型语言模型（LLM）支出的关键需求。许多组织目前缺乏这种能力，随着使用量的增加，这可能导致无利可图。文章概述了对系统进行检测以将成本归因于特定用户、会话或任务的方法，并强调这些数据对于明智的定价决策和产品开发至关重要。