Generative Recommendation
PulseAugur coverage of Generative Recommendation — every cluster mentioning Generative Recommendation across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
新方法改进了语言模型词汇扩展在推荐任务中的应用
研究人员发现，在为生成式推荐等领域特定任务扩展语言模型（LM）词汇时存在一个显著瓶颈。使用现有嵌入的平均值初始化新词元（token）的标准方法会导致区分度崩溃，而微调难以恢复。一种名为“接地初始化”（GTI）的新方法提出，在微调之前将新词元映射到预训练嵌入空间中具有语义意义的独特位置。与平均初始化和其他适应方法相比，这个轻量级的接地阶段在多个生成式推荐基准测试中表现出更优越的性能，表明初始化质量对于有效的词汇扩展至关重要。
-
新AI方法通过优化物品分词来增强生成式推荐系统 · 追踪6个来源
研究人员开发了多种优化物品分词以改进生成式推荐系统的新方法。其中一种方法Tlow使用基于流的模型将语义嵌入转换为标准正态分布，从而实现独立分词，并将微信等平台的用户点击率提高了10%以上。另一种方法DASO通过优化基于难度的奖励来解决基于语义ID的生成中的挑战，在多个基准测试中表现优于现有的GRPO方法。此外，一种动态单层语义码本方法降低了自回归解码成本并提高了检索指标，在在线A/B测试中主要消费指标提高了0.792%。另一种技术语义…
-
新的强化学习方法提升生成式推荐系统 · 跟踪到2个来源
两篇新研究论文SAPO和HCGRec介绍了改进生成式推荐系统的新型强化学习技术。这些方法通过更有效地为单个推理步骤分配信用，或在模型难以找到正确项目时提供有针对性的提示，来解决大型目录推荐中稀疏奖励的挑战。两种方法都旨在稳定训练并提高性能，SAPO侧重于步进对齐策略优化，HCGRec采用提示条件生成。
-
新研究应对生成式推荐挑战，提高公平性和准确性
多篇研究论文正在探索生成式推荐系统的进展，重点是提高准确性和公平性。EchoRec 提出了一种跨多个时间范围对齐偏好的方法，以实现更好的生成式推荐。FSGR 解决了基于语义 ID 的推荐中的 token 频率偏差，以确保更公平的物品曝光。DiffGRM 采用基于扩散的方法，更鲁棒且并行地生成物品 ID，提高了推荐准确性。DTAMLP 提出了一种用于基于会话的推荐的去噪和时间感知 MLP，识别并减轻意外点击产生的零星噪声。HCGRec …
-
新的SmartGR框架提升生成式推荐模型效率
研究人员开发了SmartGR，一个旨在提高生成式推荐（GR）模型效率和性能的新知识蒸馏框架。该框架解决了GR中的两个关键挑战：跨语义ID（SID）层次结构蒸馏知识的难度不同，以及束搜索过程中前缀修剪不正确的问题。SmartGR结合了层次感知SID蒸馏和束感知排序蒸馏，有效地将知识从大型模型转移到小型模型。实验表明，SmartGR在四个基准数据集上将性能提高了8.6%，并将平均推理速度提高了2.39倍。
-
新的SynGR框架通过跨模态协同提升生成式推荐效果
一篇新的研究论文介绍了一个名为SynGR的框架，该框架旨在通过利用跨模态协同来增强生成式推荐系统。与之前专注于对齐多模态信号的方法不同，SynGR明确鼓励利用不同模态之间的依赖关系。这种方法旨在捕捉仅从单一模态无法显现的涌现式物品语义，从而实现更准确的推荐。在基准数据集上的实验表明，SynGR的性能优于现有方法。
-
新的xGR系统提高了生成式推荐服务的效率
研究人员开发了xGR，一个旨在提高生成式推荐（GR）服务效率和速度的新系统。GR系统利用大型语言模型（LLMs）通过分析用户-物品交互的长序列来增强用户推荐。提出的xGR系统通过优化预填充和解码阶段，解决了GR独特的计算需求，这些需求与标准的LLM服务不同。它引入了提前排序终止、基于掩码的物品过滤和多级并行等技术，以实现更低的延迟和更高的吞吐量，实验证明其性能比现有方法提高了2.89倍。
-
研究论文探讨大型语言模型在生成式推荐中的记忆行为
一篇新的研究论文探讨了大型语言模型（LLMs）在应用于生成式推荐系统时的记忆行为。研究发现，与传统模型相比，LLMs 倾向于记忆训练数据中物品的直接后继项，并且大部分性能提升归因于这种记忆。为了解决这个问题，研究人员提出了一种名为 IIRG 的新颖训练策略，该策略教会 LLMs 捕捉物品的协同和语义关系，超越简单的单跳转换，从而带来显著的改进。
-
新研究致力于将大语言模型集成到生成式推荐系统中 · 跟踪 8 个来源
几篇新研究论文探讨了生成式推荐系统的进展，重点关注如何更好地将用户行为和物品语义集成到大语言模型（LLMs）中。G2Rec 提出了一种可扩展的框架，该框架将基于图的用户协同参与建模与语义标记化相结合。Token Factory 提供了一种将传统信号转换为“软标记”的方法，以便高效地集成到 LLMs 中，防止提示长度问题。另一项研究调查了 LLMs 在生成式推荐中的记忆行为，并引入了 IIRG 来捕捉更丰富的物品-物品关系。HoloRe…
-
新研究探索用于生成式推荐的语义ID
两篇新的arXiv论文探讨了在生成式推荐系统中使用语义ID（SIDs）的用法。第一篇论文介绍了SIDReasoner，一个旨在通过增强SIDs与语言模型的对齐来提高SIDs推理能力的框架。第二篇论文研究了基于SID的生成式推荐的扩展限制，并提出直接使用大型语言模型（LLMs）作为推荐器可以提供更优越的性能和扩展特性。
-
新框架通过自适应强化学习提升生成推荐效果
研究人员开发了AdaGRPO，一个新框架，通过使强化学习对噪声奖励模型更具鲁棒性来改进生成推荐系统。该方法根据策略不确定性和奖励模型可辨别性选择性地应用强化学习，在不满足这些条件时默认使用监督学习。在大规模电子商务数据集验证和生产A/B测试中，AdaGRPO在推荐质量、点击率和停留时间方面均显示出显著改进，同时控制了幻觉现象。
-
新的DREAM框架精炼物品标识符，以改进AI推荐
研究人员开发了DREAM，一个用于改进生成式推荐系统的新框架，特别针对冷启动物品。传统方法在有足够用户数据可用之前为物品分配一个单一的、静态的标识符，导致新物品表现不佳。DREAM通过一个三阶段过程动态精炼物品标识符来解决这个问题：创建候选标识符的多样化池，使用推荐模型根据用户支持选择最佳候选者，并在训练和推理过程中维护多个标识符假设。在Amazon基准测试上的实验表明，与现有方法相比，冷启动指标有了显著改进。
-
TRACER框架实现生成式推荐中的概念遗忘
研究人员开发了TRACER，一个用于生成式推荐系统概念遗忘的新框架。这些系统功能上类似于LLM，需要在不降低性能的情况下移除敏感信息。TRACER通过重新分配与待遗忘概念相关的token来解决这个问题，从而最大限度地减少对保留数据的影响并保持推荐效用。
-
新的UniSID框架通过端到端SID生成改进广告推荐
研究人员开发了UniSID，一个用于在生成式推荐系统中生成语义ID（SIDs）的新颖框架，特别适用于广告推荐。这种新方法通过端到端联合优化嵌入和SID，解决了现有方法（如Residual Quantization）的局限性，防止了语义退化和误差累积。UniSID还采用了一种多粒度对比学习策略和一种基于摘要的广告重建机制来捕捉更细粒度的语义。实验表明，在下游广告场景中，与当前最先进的方法相比，UniSID的命中率指标提高了4.62%。
-
新框架 ComeIR 提升生成式推荐系统性能
研究人员推出 ComeIR，一个旨在增强生成式推荐系统的新框架。该方法解决了项表示的构建方式中的挑战，旨在在提高语义理解能力的同时保留项标识符 (SIDs) 内的关键结构信息。ComeIR 利用双层记忆系统和自适应评分来捕获项组成和转换模式，最终在解码过程中恢复 token 粒度。
-
研究人员提出生成式推荐系统新框架
研究人员开发了一个新框架，用于改进生成式推荐系统的语义ID（SIDs）生成。该方法通过整合深度上下文兴趣挖掘、使用视觉语言模型（Vision-Language Models）的跨模态语义对齐以及一个质量感知强化机制来解决信息和语义退化问题。所提出的系统旨在更有效地保留关键上下文信息并对齐不同模态，在实验中表现优于现有的SID生成方法。