PulseAugur
中
实时 12:41:02
English(EN) Intelligence per Watt: Measuring Intelligence Efficiency of Local AI

新指标“每瓦特智能”衡量本地AI效率

作者 PulseAugur 编辑部 · [1 个来源] ·

一项新的研究论文引入了“每瓦特智能”（IPW）作为评估本地AI模型效率的指标。研究发现，本地模型可以准确回答88.7%的现实世界查询，并且在2023年至2025年间IPW提高了5.3倍。与基于云的解决方案相比，本地加速器也显示出至少低1.4倍的IPW，这表明本地推理可以显著减轻集中式基础设施的需求。 AI

影响 引入了一个新指标来跟踪本地AI推理的可行性和效率，可能将需求从云基础设施转移。

排序理由 该集群包含一篇提出新指标并评估AI模型和硬件的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Jon Saad-Falcon, Avanika Narayan, Hakki Orhun Akengin, J. Wes Griffin, Herumb Shandilya, Adrian Gamarra Lafuente, Medhya Goel, Rebecca Joseph, Shlok Natarajan, Etash Kumar Guha, Shang Zhu, Ben Athiwaratkun, John Hennessy, Azalia Mirhoseini, Christopher R… ·

    Intelligence per Watt: Measuring Intelligence Efficiency of Local AI

    arXiv:2511.07885v4 Announce Type: replace-cross Abstract: Large language model (LLM) queries are predominantly processed by frontier models in centralized cloud infrastructure. Demand growth strains this paradigm faster than providers can scale. Two advances create an opportunity…

相关实体

相关话题