研究人员推出了一种新颖的一步并行语言建模方法——异步流图语言模型(aFMLMs),该方法包含预测顺序。与迭代模型不同,aFMLMs学习异步流的流图,该流图规定了控制去噪进度的逐令牌时间表。通过内化学习到的顺序,该方法允许模型在一次前向传播中生成所有令牌。在 Sudoku 求解和 GSM8K 数学问题的代码生成评估中,aFMLMs 在一步建模方面取得了新的最先进性能。 AI
影响 引入了一种新颖的一步并行生成方法,有望提高语言模型的效率和性能。
排序理由 该集群包含一篇在 arXiv 上发表的关于新语言模型架构的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- Asynchronous Flow Map Language Models
- CatalyzeX Code Finder for Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- GSM8K
- Hugging Face
- Influence Flower
- ScienceCast
- sudoku
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →