PulseAugur
中
实时 07:15:56
English(EN) ClockRoPE: Random Fourier Rotations for Temporal Routine Modeling

ClockRoPE 增强 LLM 的时间序列建模能力 · arXiv 研究

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了 ClockRoPE，一种用于时间序列建模的新颖方法，可增强基于 Transformer 的大型语言模型的性能，尤其是在顺序推荐任务中。这种新方法利用了源自注意力调制函数傅里叶变换的随机傅里叶旋转，以更好地捕捉时间周期性等复杂的距离相关模式。ClockRoPE 在在线 A/B 测试的参与度指标中显示出持续的改进，并且已经在大型视频分享平台的生成检索系统中投入生产使用。 AI

影响 这项研究通过更好地建模用户行为中的时间模式，有望提高推荐系统和生成检索系统的性能。

排序理由 该条目是一篇 arXiv 预印本，详细介绍了一种用于时间序列建模的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

ClockRoPE 增强 LLM 的时间序列建模能力 · arXiv 研究

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Yiwen Chen, Joshua Ainslie, Krzysztof Choromanski, Xiang Gao, Su-Lin Wu, Yiping Yuan, Qian Sun ·

    ClockRoPE：用于时间序列建模的随机傅里叶旋转

    arXiv:2607.26369v1 Announce Type: new Abstract: Rotary Position Embedding (RoPE) has been widely adopted in transformer-based large language models. However, its log-linear frequency schedule, originally designed to produce long-term attention decay, limits its adoption in domain…

相关实体

相关话题