n-gram
PulseAugur coverage of n-gram — every cluster mentioning n-gram across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
代码补全工具的幽灵文本功能因自预测差距而评估失败
一位开发者创建了一个名为 pycomplete 的代码补全工具，该工具结合了 transformer 模型、n-gram 模型和缓存。虽然该工具的下一个 token 预测准确率为 54.6%，但其生成“幽灵文本”（多 token 续写）的性能却显著下降至 7%，即十四次尝试中只有一次正确补全。这种差异的出现是因为评估指标是基于人类编写的代码进行训练的，而幽灵文本功能依赖于模型预测其自身生成的输出，这导致在评估这种不同分布时出现性能断崖。
-
研究发现：类N-gram模型比Transformer模型更能预测阅读时间
一篇新论文提出，传统的类N-gram语言模型可能比复杂的Transformer模型更能预测自然阅读时间。研究表明，虽然Transformer模型在预测下一个词方面表现出色，但其概率与阅读时间指标的相关性不如简单的N-gram统计数据。研究发现，预测结果最接近N-gram概率的神经网络语言模型，也能最佳预测自然文本的眼动追踪数据。
-
DeepSeek 的 Engram 模块实现了 Tokenizer 无关性
研究人员在 DeepSeek 的原始设计基础上，为大型语言模型开发了一个 Tokenizer 无关的 Engram 模块。新方法用多项式哈希取代了基于 XOR 的哈希，创建了一个联合嵌入空间，允许 Engram 嵌入在具有不同 Tokenizer 的模型之间重用。此修改实现了字节等价 Token 序列的哈希等价性，在保持可比性能的同时提高了 Engram 嵌入的可重用性。
-
Qwen3.6-27B 基准测试显示 DFlash 在推测解码速度方面领先
最近的一项基准测试在 vLLM 和 SGLang 框架上，使用 Qwen3.6-27B 模型和单块 RTX PRO 6000 Max-Q GPU，对推测解码方法进行了比较。结果显示 DFlash 方法最为有效，在 SGLang 上速度提升高达 3.3 倍，在 vLLM 上提升 2.5 倍，尤其在数学推理任务上表现出色。MTP/NEXTN 等其他方法显示出适度的提升，EAGLE3 的性能趋于平稳，而 ngram 的改进则微乎其微。
-
推测解码研究提升消费级硬件上LLM的推理速度
研究人员正在探索推测解码技术以加速大型语言模型（LLM）的推理。两篇论文，一篇来自arXiv，另一篇来自dev.to，详细介绍了在消费级硬件和高并发场景下提高效率的方法。arXiv论文《Lossless but Not Free》对Apple Silicon上的推测解码进行了实证分析，强调加速效果取决于并行验证以及草稿模型和目标模型之间显著的延迟差距。D-Cut论文（也来自arXiv）提出了一种用于批处理推测解码的自适应剪枝方法，该方…
-
新的推测解码方法提高了 LLM 推理速度和效率 · 跟踪 6 个来源
研究人员推出了 DominoTree，一种新颖的推测解码方法，通过使用条件树状结构显著加速 LLM 推理。该方法在 Qwen3-4B 模型上实现了高达 6.6 倍的加速，并显示出比 DDTree 和 CaDDTree 等现有技术更高的吞吐量。同时，其他研究探索了宽松的推测解码，研究速度和能力之间的权衡，并引入了 AdaptiveSD 以在 CPU 限制下实现鲁棒的、运行时自适应的推理。DSpark 是另一个框架，它将高吞吐量的并行生成…
-
新的Hamm-Grams算法通过强大的特征增强了恶意软件检测能力
研究人员开发了一种名为Hamm-Grams的新算法，旨在通过创建比传统n-grams更强大的特征来改进恶意软件的检测和分类。这些Hamm-grams是一种包含单字符通配符的正则表达式，使其不易碎。该算法使用一种新颖的局部敏感哈希和聚类技术来有效地查找常见的Hamm-grams，在识别和分类恶意软件方面显示出显著优势。