实体
Betley et al. 2025
Betley et al. 2025
PulseAugur coverage of Betley et al. 2025 — every cluster mentioning Betley et al. 2025 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI模型的角色采纳：输出变化 vs. 内部信念转变
研究人员调查了语言模型在角色扮演时是真正内化了角色，还是仅仅改变了输出。他们通过提示、上下文学习、监督微调和开放式角色训练来诱导角色，并通过真实性探测和行为测试来衡量内化程度。研究发现，提示、上下文学习和监督微调主要改变了模型的输出，代表性变化很小。然而，涌现式错位（Emergent Misalignment）对模型的真实性表征产生了显著改变，而开放式角色训练则显示出中间效果，尤其是在较大的模型中。
-
一致性训练封堵接种提示引起的AI模型失准
研究人员开发了一种使用一致性训练的新方法，以解决接种提示中的一个缺陷。接种提示是一种旨在减少特定不良模型行为的技术。这种新方法被称为“封堵条件失准”，能有效关闭导致这些不良特征被重新诱发的“后门”。该方法已在 Llama-3.1 和 Qwen3 等开放权重模型上进行了测试，证明了其作为一种提高AI对齐成本效益干预措施的潜力。