新研究质疑量化下 AI 可解释性迁移指标

arXiv 上的一篇新论文质疑了使用余弦相似度来衡量量化下可解释性伪影迁移有效性的有效性。作者认为，报告的统计数据缺乏正确解释所需的噪声基底信息。他们提出了一种测量此噪声基底的方法，并在 Qwen2.5-1.5B-Instruct 上进行了演示，发现在 INT4 量化下，可解释性伪影的方向实际上会旋转，这一发现被标准的报告实践所掩盖。该论文还强调，尺度不变统计量无法区分迁移的决策变量的平移和衰减，并建议了替代的报告建议。 AI

影响 挑战了当前评估 AI 可解释性的方法，可能影响模型在安全性和鲁棒性方面的评估方式。

排序理由 在 arXiv 上发表的学术论文，详细介绍了新的研究发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• AI safety
• arXiv
• cosine similarity
• Int4
• Int8
• Qwen2.5-1.5B-Instruct

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →