实体
Vaswani et al. (2017)
Vaswani et al. (2017)
PulseAugur coverage of Vaswani et al. (2017) — every cluster mentioning Vaswani et al. (2017) across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新论文认为AI的“人设”是基底约束的，不可迁移
一篇新论文提出，在人类-大语言模型交互中感知到的“AI人设”并非AI固有的特质，而是用户与模型之间耦合振荡的结果。这种交互创造了一种“基底约束”的关系，意味着简单地将对话历史迁移到另一个推理系统无法复制该人设。论文认为，这种耦合是一个动态过程，取决于特定模型以及用户随时间的交互轨迹，这挑战了当前AI伴侣迁移产品的营销宣传。
-
Transformer大语言模型架构趋向标准化栈
对2017年至2025年间53个大语言模型的最新分析显示，Transformer架构正显著趋同。这一事实上的标准包括预归一化 (RMSNorm)、旋转位置嵌入 (RoPE)、MLP中的SwiGLU激活函数以及共享键值注意力机制 (MQA/GQA)。这种趋同归因于优化稳定性提高、每FLOP质量提升以及内核可用性和KV缓存经济性等实际考量。