实体
Arditi et al
Arditi et al
PulseAugur coverage of Arditi et al — every cluster mentioning Arditi et al across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 3
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
AI拒绝控制：DiM与INLP方法比较
研究人员比较了两种控制AI聊天模型拒绝行为的方法：均值差（Diff-in-Means, DiM）和迭代零空间投影（Iterative Nullspace Projection, INLP）。研究发现，INLP的反事实翻转干预在抑制模型拒绝方面与DiM的方向消融一样有效，而其零空间投影方法效果较差。将INLP限制在关键方向上，可以在对模型困惑度影响最小的情况下，保留其大部分抑制能力，提供了一种可调控的AI响应控制方法。
-
拙劣的AI消融比技术本身成本更高
最近的一项分析探讨了“消融”（一种移除AI模型拒绝能力的技巧）的成本。作者调查了在被消融的模型中观察到的性能下降是固有于该技术还是拙劣实现的结果。初步发现表明，像HuiHui AI在Qwen3.5-27B上使用的粗糙消融方法会带来显著的性能成本，而Arditi等人描述的更干净、更严谨的方法对模型准确性的影响要小得多。
-
新研究使用有效秩审计LLM对齐偏移
一篇新研究论文引入了一种“有效秩”审计方法，用于分析对齐技术如何改变大型语言模型的内部工作机制。该研究考察了三个开源模型：Llama-3.1-8B-Instruct、Gemma-2-9B-it 和 Qwen-2.5-7B-Instruct。研究结果表明，虽然有效秩可以指示模型的脆弱性，但它并非安全性的直接衡量标准，也不能保证鲁棒性。