实体
OLMo 3 7B
OLMo 3 7B
PulseAugur coverage of OLMo 3 7B — every cluster mentioning OLMo 3 7B across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
时间线
- 2026-05-13 research_milestone A paper was published detailing the early formation and refinement of persona vectors during LLM pretraining. 来源
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
OLMo 3 7B 训练揭示结构化有害性方向
研究人员分析了 OLMo 3 7B 模型在训练过程中有害性表征的发展。他们识别出不同有害性子类别的明显但相关的线性激活方向，并观察到这些方向会随着时间演变和稳定。研究发现，分布内评估可能具有误导性，强调了进行分布外测试的必要性，并证明了后期训练方向可以有效地引导模型的行为。
-
研究发现：LLM中的人格向量在预训练早期形成
研究人员发现，像谄媚这样的特定行为特征在大型语言模型中由“人格向量”表示。这些向量在预训练过程的早期就形成了，对于OLMo-3-7B模型来说，仅占训练的最初0.22%。虽然核心表征形成迅速，但这些人格向量在整个预训练过程中会持续细化，并且不同的提取方法会揭示底层行为的不同方面。研究结果表明，这些表征是早期预训练的稳定特征，并已被证明可以迁移到Apertus-8B等其他模型。