ULTRA-HSTU

新研究解决超长序列推荐模型训练问题

两篇新研究论文解决了具有极长用户交互历史的推荐模型训练中的挑战。第一篇论文《Versioned Late Materialization》提出了一种系统，通过一次性存储用户历史并按需重建序列来减少数据基础设施负载，从而支持更长的序列并提高模型质量。第二篇论文《SinkRec》引入了一种混合记忆-转换架构，以缓解线性注意力模型中的“语义状态汇聚”问题，防止重复模式压倒模型的状态并提高长序列的效率。