研究人员开发了OneLA,一个旨在提高生成式推荐系统效率的新框架。该框架通过用单个共享的、由提示派生的状态和紧凑的分支转换记录来表示所有束状态,从而解决了循环线性注意力模型中大束解码的挑战。OneLA在每一步仅计算必要的状态信息,避免了为每个束重建完整循环状态的需要,并使用轻量级的祖先索引来跟踪束历史。这种方法带来了显著的速度提升和内存使用减少。 AI
影响 该框架可以提高依赖大束解码的推荐系统的性能和效率。
排序理由 这是一篇详细介绍生成式推荐系统新技术框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.IR (Information Retrieval) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →