实体
Hajee Mohammad Danesh Science & Technology University
Hajee Mohammad Danesh Science & Technology University
PulseAugur coverage of Hajee Mohammad Danesh Science & Technology University — every cluster mentioning Hajee Mohammad Danesh Science & Technology University across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
WHALE架构通过Wukong和HSTU统一推荐特征
研究人员推出了一种新颖的推荐架构WHALE，旨在高效地统一非序列特征和序列特征。该模型利用Wukong进行高阶非序列特征交互，并利用HSTU进行长用户行为序列建模。通过将这些组件与基于注意力机制的融合模块集成，WHALE实现了两个骨干网络之间的渐进式交换，从而能够详细检索用户历史记录中的证据。该架构已通过定制的Triton内核和其他系统级协同设计技术进行了优化，以提高训练和推理效率，并在工业环境中展示了持续的离线收益和积极的在线结果。
-
新研究解决超长序列推荐模型训练问题
两篇新研究论文解决了具有极长用户交互历史的推荐模型训练中的挑战。第一篇论文《Versioned Late Materialization》提出了一种系统，通过一次性存储用户历史并按需重建序列来减少数据基础设施负载，从而支持更长的序列并提高模型质量。第二篇论文《SinkRec》引入了一种混合记忆-转换架构，以缓解线性注意力模型中的“语义状态汇聚”问题，防止重复模式压倒模型的状态并提高长序列的效率。