实体
P-EAGLE
P-EAGLE
PulseAugur coverage of P-EAGLE — every cluster mentioning P-EAGLE across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
时间线
- 2026-06-16 product_launch AWS launches P-EAGLE, a parallelized speculative decoding method for LLMs, integrated into Amazon SageMaker JumpStart. 来源
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
ZX81 游戏发布；AI 推测解码指南发布
一款名为 Zevious Seven 的新垂直滚动射击游戏已在 Sinclair ZX81 上发布，旨在展示这款经典 8 位计算机的功能。另外，一份指南演示了如何使用 Amazon SageMaker AI 上的 P-EAGLE 实现并行推测解码，并利用了 SageMaker JumpStart 中的模型。
-
AWS P-EAGLE 实现 LLM 推测解码并行化，加速推理
AWS 开发了 Parallel-EAGLE (P-EAGLE)，一种新颖的方法，可对大型语言模型实现推测解码并行化，显著提高推理吞吐量。与之前顺序生成草稿 token 的 EAGLE 框架不同，P-EAGLE 在单次前向传播中同时预测所有推测 token，减少了延迟开销。这项创新现已集成到 Amazon SageMaker JumpStart 中，与在流行的基础模型上使用 EAGLE-3 相比，每秒输出 token 的速度提高了 1.69 倍。