Arditi et al
PulseAugur coverage of Arditi et al — every cluster mentioning Arditi et al across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的“Abliteration”技术修改 LLMs 以移除拒绝
一种名为“abliteration”的新技术通过移除其权重中的特定拒绝方向来修改开放权重语言模型，使其能够在不重新训练的情况下响应更广泛的提示。Arditi 等人的研究详细介绍了这种方法，Maxime Labonne 进行了演示，该方法在代码层面改变了模型的行为，特别是影响了它们的“思考预算”。集成这些模型的开发人员需要注意，通过 abliteration 或无审查微调修改过的模型可以通过相同的 API 端点访问，但可能需要更高的 `…
-
AI拒绝控制：DiM与INLP方法比较
研究人员比较了两种控制AI聊天模型拒绝行为的方法：均值差（Diff-in-Means, DiM）和迭代零空间投影（Iterative Nullspace Projection, INLP）。研究发现，INLP的反事实翻转干预在抑制模型拒绝方面与DiM的方向消融一样有效，而其零空间投影方法效果较差。将INLP限制在关键方向上，可以在对模型困惑度影响最小的情况下，保留其大部分抑制能力，提供了一种可调控的AI响应控制方法。
-
拙劣的AI消融比技术本身成本更高
最近的一项分析探讨了“消融”（一种移除AI模型拒绝能力的技巧）的成本。作者调查了在被消融的模型中观察到的性能下降是固有于该技术还是拙劣实现的结果。初步发现表明，像HuiHui AI在Qwen3.5-27B上使用的粗糙消融方法会带来显著的性能成本，而Arditi等人描述的更干净、更严谨的方法对模型准确性的影响要小得多。
-
新研究使用有效秩审计LLM对齐偏移
一篇新研究论文引入了一种“有效秩”审计方法，用于分析对齐技术如何改变大型语言模型的内部工作机制。该研究考察了三个开源模型：Llama-3.1-8B-Instruct、Gemma-2-9B-it 和 Qwen-2.5-7B-Instruct。研究结果表明，虽然有效秩可以指示模型的脆弱性，但它并非安全性的直接衡量标准，也不能保证鲁棒性。