实体
AngelSpec
AngelSpec
PulseAugur coverage of AngelSpec — every cluster mentioning AngelSpec across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
腾讯混元开源 AngelSpec 框架和 Hy3-A21B 权重
腾讯混元团队已正式开源 AngelSpec，这是一个专为草稿器训练、架构设计和在线部署而设计的投机解码框架。同时，他们还发布了 Hy3-A21B 的 MTP 和 DFly 草稿器权重及训练代码。腾讯此举旨在通过提供开源工具来推动人工智能研究和开发。
-
新研究通过先进的推测解码技术提高LLM推理速度 · 追踪8个来源
研究人员正在探索先进技术，通过推测解码来加速大型语言模型（LLM）的推理。"Functional Reconstruction"等新方法旨在通过优化注意力函数来提高草稿模型和目标模型之间的一致性，而"SparseSpec-L"则利用动态稀疏化的KV缓存和每头注意力统计数据来提高效率。其他工作重新审视了"lossy verification"以分析权衡和失败模式，并将方法分为基于截断和协作验证。此外，"AngelSpec"为不同的推测解…