NVIDIA正在提议一项新的指标来评估AI工厂:每兆瓦验证令牌数。Ian Buck在AI基础设施峰会上发言时建议,应将这种衡量方式从传统的电力效率指标转向关注AI模型在消耗能源方面的产出,即生成的令牌数与消耗的能源之比。这项新指标旨在更好地反映AI基础设施的实际性能和效率。 AI
影响 这项提议的指标可能会影响AI基础设施在能源效率和性能方面的设计和评估方式。
排序理由 该条目讨论了一家知名公司提出的行业指标转变,但并未发布新产品、研究或政策。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →