实体
@sudoingX
@sudoingX
PulseAugur coverage of @sudoingX — every cluster mentioning @sudoingX across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
Ling模型基准测试显示MTP有所提升，但更高投机性token导致文本生成变慢
近期对Ling模型（特别是Ling-3.0-flash）的基准测试揭示了与多token预测（MTP）和投机解码相关的性能特征。当启用MTP且n=1（每步预测一个草稿token）时，与未启用MTP的基线相比，吞吐量显著提高了约79%。然而，将'n'增加到2或3（允许更多草稿token）导致文本生成速度下降，表明在此特定配置中，更高的接受长度并未转化为更快的性能。
-
124B 模型在单台 DGX Spark 上实现 38.7 tok/s，性能优于 DeepSeek V4 Flash
一位名为 sudoingX 的用户在一台 DGX Spark 上对一个拥有 124B 参数的模型进行了基准测试，在优化的 INT4 路径上实现了每秒 38.7 个 token 的速度。该性能被发现比在同一硬件上运行的 DeepSeek V4 Flash 快 2.4 倍。用户最初报告了在单台 Spark 上使用官方量化版本时遇到的问题，但后来纠正了这一点，确认这是他们最快的选项。
-
Google发布Gemma 4检查点以实现高效AI训练
Google在Hugging Face上发布了针对量化感知训练（QAT）优化的Gemma 4检查点。这一进步使得模型部署更加高效，而这在一年前的单块消费级GPU上是无法实现的。这一发展标志着让先进AI模型在标准硬件上更易于访问和更具性能是一个重大的飞跃。