Penelope框架增强Transformer中的结构化推理

研究人员开发了Penelope，一个旨在增强仅解码器Transformer模型结构化推理能力的新框架。该系统将递归计算本地化到特定的解码器区间，使用一个问题条件边界记忆，该记忆通过GRU动力学迭代细化。通过采用一种将可见推理转移到此内部潜在路径的课程，Penelope可以在不延长自回归输出长度或重复执行整个解码器的情况下实现计算的增加。在开源基准上的实验表明，与现有的潜在推理模型相比，Penelope在推理延迟降低的同时实现了具有竞争力的准确性，提供了准确性和效率之间的实用权衡。 AI

影响 引入了一种更高效的Transformer模型结构化推理方法，可能降低推理成本。

排序理由 该集群包含一篇详细介绍改进AI模型推理新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• gated recurrent unit
• Gotit.pub
• Hugging Face
• Penelope
• ScienceCast
• transformers

• 论文
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →