研究人员推出了一种名为渐进式聚焦注意力(PFA)的新框架,旨在提高生成推荐系统在处理长用户行为序列时的效率。PFA通过渐进式聚焦关键历史标记来解决自回归束搜索过程中全注意力机制引起的显著推理延迟问题。该系统利用了对注意力模式的观察,特别是渐进式聚焦和跨步排名一致性,以在保留基本语义的同时减少计算和内存开销。在电子商务平台上进行的实验和在线A/B测试表明,PFA能够以低推理延迟带来显著的业务收益。 AI
影响 提高了处理长用户历史记录的生成推荐系统的效率,可能降低平台的延迟和成本。
排序理由 详细介绍生成推荐新技术框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.IR (Information Retrieval) 阅读 →
- attention
- beam search
- Generative Recommendation
- History Compression
- Hugging Face
- Top-K sparse attention
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →