PulseAugur
实时 08:14:05
English(EN) Empowering Compact LLMs with Fusion of Layer-wise Exits for Recommendation

新的FLEXRec框架提升了推荐系统中紧凑型大语言模型的性能

研究人员开发了FLEXRec,一个旨在提升推荐系统中紧凑型大语言模型(LLMs)性能的新框架。该方法通过在不同的Transformer层中加入预测头并自适应地融合它们的输出来解决大型LLMs的计算限制。一个自适应路由器AC-Router通过一种新颖的目标k铰链损失来动态选择为每个用户序列使用哪些退出点,以鼓励稀疏性。使用Qwen 3 1.7B和Llama 3.2 3B模型进行的实验表明,FLEXRec在保持效率的同时,在紧凑型LLM方法中达到了最先进的准确性。 AI

影响 提高了推荐任务中紧凑型LLMs的效率和准确性,有可能在资源受限的环境中实现更广泛的应用。

排序理由 这是一篇详细介绍推荐系统中LLMs新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.IR (Information Retrieval) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的FLEXRec框架提升了推荐系统中紧凑型大语言模型的性能

报道来源 [1]

  1. arXiv cs.IR (Information Retrieval) TIER_1 English(EN) · Hongzhi Yin ·

    通过融合层级退出机制赋能紧凑型LLM用于推荐

    Large language model-based recommender systems (LLM-RSs) have demonstrated remarkable capabilities, but are computationally unsustainable for many real-world applications. Compact LLMs offer a practical alternative, yet their reduced capacity often requires reasoning or knowledge…