PulseAugur
中
实时 10:52:31
English(EN) When Explanations Betray Backdoors: Black-Box Auditing for Language Model Classifiers

新的审计方法可检测语言模型解释中的隐藏后门

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为“基础性漂移”（Groundedness Drift）的新方法来审计语言模型分类器是否存在隐藏后门。该技术衡量模型分类的解释与输入数据的一致性程度。在对两个7B参数模型在各种数据集和攻击类型上进行测试时，Groundedness Drift在识别这些后门方面比现有检测器更有效，同时保持了较低的误报率。还进行了使用“不支持的基础性”（Unsupported Groundedness）的附加评估，以评估在更复杂的伪装场景下的性能。 AI

影响 引入了一种新颖的审计技术，可以提高语言模型分类器的安全性和可靠性。

排序理由 详细介绍语言模型新审计方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv stat.ML 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的审计方法可检测语言模型解释中的隐藏后门

报道来源 [1]

  1. arXiv stat.ML TIER_1 English(EN) · Yang Liu, Ran Zou ·

    当解释泄露后门：语言模型分类器的黑盒审计

    arXiv:2608.12623v1 Announce Type: cross Abstract: Language model classifiers with explanations are used for moderation, routing, topic triage, and low-resource annotation. We study black-box auditing when the defender has only clean calibration data without trigger information bu…

相关实体

相关话题