PulseAugur
实时 09:14:22
实体 Honglu Fan

Honglu Fan

PulseAugur coverage of Honglu Fan — every cluster mentioning Honglu Fan across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_143788 ·

    Transformer嵌入维度加强了排序任务中的内部世界模型

    一篇新的研究论文探讨了在简单的排序任务上训练时,Transformer模型中的嵌入维度如何影响内部世界模型的发展。研究发现,虽然模型可以使用较小的嵌入维度实现高精度,但较大的维度可以带来更一致、更鲁棒和更易于解释的内部表示。具体来说,研究确定了两种机制:注意力权重矩阵编码了全局 token 顺序,而选定的转置与这些编码值之间的最大相邻差异相对应。这项工作为 Transformer 构建结构化内部世界模型提供了量化证据,表明模型规模的增…