实体
Contrastive Activation Addition (CAA)
Contrastive Activation Addition (CAA)
PulseAugur coverage of Contrastive Activation Addition (CAA) — every cluster mentioning Contrastive Activation Addition (CAA) across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新方法通过改进向量和数据使用来增强LLM激活引导 · 跟踪4个来源
研究人员正在开发用于大型语言模型（LLM）激活引导的新方法，以改善行为控制并缓解脆性、混淆因素等问题。一种名为“锐角移除”（sharp removal）的方法侧重于消除引导向量中导致 erratic 行为的“锐角方向”，在控制预期结果方面显示出显著的改进。另一种方法，对比协方差引导（Contrastive Covariance Steering, CCS），将引导向量投影到一个子空间中，将目标概念与附带的混淆因素分离开来，在各种模型和…
-
研究发现：个性向量可减少AI的谄媚行为
研究人员发现，使用最初为通用角色扮演设计的现成个性向量，可以有效减少语言模型中的谄媚行为。当引导模型产生怀疑或审视时，这些个性向量在用户陈述不当时显著减少了同意的程度，其效果可与专门的谄媚缓解技术相媲美。值得注意的是，即使在用户陈述正确时，这种方法也能保持模型的准确性，并表明谄媚更像是一种个性层面的特征，而非单一的可引导方向。