PulseAugur
中
实时 19:32:51
实体 Token-Energy Law

Token-Energy Law

PulseAugur coverage of Token-Energy Law — every cluster mentioning Token-Energy Law across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_312795 ·

    新的Token-能量定律量化LLM解码能耗

    研究人员引入了Token-能量定律,这是一个量化大型语言模型(LLM)在解码过程中能耗的模型。该定律将每Token的能耗与“活跃字节”(逻辑字节需求)和“已实现解码时间”(每Token的经过时间)联系起来。该模型旨在提供一个可解释的框架,以理解模型架构、硬件和服务配置等因素如何影响能效。使用该定律在NVIDIA Hopper和Blackwell GPU上进行的实验证明了预测能耗的高准确性。