研究人员开发了TraceQuery,一种用于优化扩散大型语言模型(dLLMs)推理过程的新型框架。与以往关注基于表示误差的缓存和重新计算的方法不同,TraceQuery利用全去噪轨迹来指导计算。这种方法识别并仅重新计算最相关的标记位置,显著改善了质量-计算权衡。TraceQuery在各种任务和模型架构中都表现出强大的性能,在保持高精度的同时大幅降低了计算成本。 AI
影响 优化扩散语言模型的推理,可能降低计算成本并提高效率。
排序理由 该集群包含一篇详细介绍优化AI模型新方法的 ist 研究论文。
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Diffusion language models
- dLLMs
- Gotit.pub
- Hugging Face
- ScienceCast
- TraceQuery
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →