实体 Geshkovski

Geshkovski

PulseAugur coverage of Geshkovski — every cluster mentioning Geshkovski across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_75522 · Jun 6 · 21:30

Transformer激活空间显示亚稳态token簇

研究人员进行了实验，分析了训练过的Transformer模型激活空间中的亚稳态。研究证实，token跨层聚集形成持久的组，这与注意力动力学系统模型的理论预测相呼应。然而，实验证伪了该理论的关键方面，发现驱动聚集的能量并非单调，且坍缩速度由值矩阵而非模型深度决定。