实体
P-EAGLE
P-EAGLE
PulseAugur coverage of P-EAGLE — every cluster mentioning P-EAGLE across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
时间线
- 2026-06-16 product_launch AWS launches P-EAGLE, a parallelized speculative decoding method for LLMs, integrated into Amazon SageMaker JumpStart. 来源
- 2026-06-16 product_launch AWS has developed and open-sourced Parallel-EAGLE (P-EAGLE), a new method for parallelizing speculative decoding in large language models, and integrated it into Amazon SageMaker JumpStart. 来源
最近 · 第 1/1 页 · 共 3 条
-
新的推测解码方法提高了 LLM 推理速度和效率 · 跟踪 6 个来源
研究人员推出了 DominoTree，一种新颖的推测解码方法，通过使用条件树状结构显著加速 LLM 推理。该方法在 Qwen3-4B 模型上实现了高达 6.6 倍的加速，并显示出比 DDTree 和 CaDDTree 等现有技术更高的吞吐量。同时，其他研究探索了宽松的推测解码，研究速度和能力之间的权衡，并引入了 AdaptiveSD 以在 CPU 限制下实现鲁棒的、运行时自适应的推理。DSpark 是另一个框架，它将高吞吐量的并行生成…
-
ZX81 游戏发布；AI 推测解码指南发布
一款名为 Zevious Seven 的新垂直滚动射击游戏已在 Sinclair ZX81 上发布，旨在展示这款经典 8 位计算机的功能。另外，一份指南演示了如何使用 Amazon SageMaker AI 上的 P-EAGLE 实现并行推测解码，并利用了 SageMaker JumpStart 中的模型。
-
AWS P-EAGLE 将 LLM 解码并行化，速度提升 1.69 倍
AWS 开发了 Parallel-EAGLE (P-EAGLE)，一种新颖的方法，可将大语言模型的投机解码并行化，克服了 EAGLE-3 等先前技术顺序草拟的限制。这项创新允许所有投机草拟的 token 在一次前向传播中同时预测，而不是顺序预测。在基准测试中，P-EAGLE 与 EAGLE 框架相比，吞吐量速度提升高达 1.69 倍，并且现在已原生支持 Amazon SageMaker JumpStart，便于部署。