实体
Nadaraya--Watson
Nadaraya--Watson
PulseAugur coverage of Nadaraya--Watson — every cluster mentioning Nadaraya--Watson across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新理论将多头注意力机制视为集成回归
研究人员开发了一种统计理论，将多头注意力（MHA）视为一系列Nadaraya-Watson核回归估计器的集成。该框架揭示了MHA中的方差减少与不同注意力头输出的去相关性密切相关，而不仅仅是头的数量。他们引入了头多样性指数（HDI）来衡量这种去相关性，并推导出了最优的头维度分配策略，提出了一个新的架构扩展定律，其中最优的每个头维度随训练集大小呈对数增长。
-
新论文详解直接估计薛定谔桥时间序列漂移
研究人员开发了一种从时间序列数据直接估计薛定谔桥（SB）漂移的新方法。该方法通过关注漂移公式本身，将统计误差与其他误差来源隔离开来，从而绕过了复杂的迭代求解器。该研究提供了理论保证，包括有限样本界和可实现近乎最优性能的自适应带宽选择器。