AI代理消耗的token量远超人类,在一个名为OpenRouter的平台上,AI代理使用了7.3万亿个token,而人类仅使用了1.4万亿个。这一趋势预计将继续增长,可能达到10倍甚至更高的比例。其中,超过85%的代理token使用量来自重复读取缓存的提示词。虽然这比处理新信息成本更低,但仍会增加对高带宽内存(HBM)的需求。这种不断增长的内存需求加剧了现有的短缺状况,并有望进一步恶化,影响AI数据中心和潜在的PC购买者。 AI
影响 加速了对高带宽内存的需求,可能导致AI基础设施和消费级硬件的短缺和成本增加。
排序理由 对AI代理token使用趋势及其对硬件影响的分析,而非来自前沿实验室的直接发布。
- Andreessen Horowitz
- Claude Code
- Daniel Newman
- DeepSeek
- McKinsey & Company
- Micron
- Nvidia
- OpenRouter
- Peter Walker
- X
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →