PulseAugur
中
实时 08:29:01
实体 Borjan Geshkovski

Borjan Geshkovski

PulseAugur coverage of Borjan Geshkovski — every cluster mentioning Borjan Geshkovski across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_315308 ·

    新理论解释 Transformer 的“中间遗忘”现象

    一篇新的 arXiv 论文引入了一个动力学理论框架来分析解码器 Transformer 中因果自注意力机制的动力学。这种理论方法使用 Glauber 微积分和平均场近似，为大型语言模型中观察到的“中间遗忘”现象提供了严谨的解释。研究表明，在特定条件下，令牌检索性能根据提示位置呈现 U 形曲线，中间部分存在明显的下降。