English(EN) Z-PEFT: Zero-shot Backdoor Detection in Parameter-Efficient Fine-Tuning via Canonical Spectral Signatures

新的Z-PEFT方法以零样本能力检测AI模型中的后门

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-04 04:00

研究人员开发了Z-PEFT，一种用于检测参数高效微调（PEFT）模型中后门的新颖方法。与先前需要针对特定攻击类型进行训练的方法不同，Z-PEFT使用逐层谱度量以零样本方式识别恶意模型，这意味着它可以检测以前未见的攻击。实验表明，Z-PEFT在零样本场景下表现出强大的性能和较低的计算成本，优于其他权重空间检测器。 AI

影响增强了广泛使用的AI模型的安全性，可能降低与开源模型共享相关的风险。

排序理由该集群包含一篇详细介绍AI模型安全新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.LG TIER_1 English(EN) · Nicola Pitzalis, Donald Shenaj, Giacomo Cignoni, Andrea Cossu, Davide Bacciu, Antonio Carta · 2026-08-04 04:00

Z-PEFT: Zero-shot Backdoor Detection in Parameter-Efficient Fine-Tuning via Canonical Spectral Signatures

arXiv:2608.02271v1 Announce Type: new Abstract: Parameter-Efficient Fine-tuned (PEFT) models are frequently downloaded from open repositories by practitioners. This widespread practice creates a significant attack surface, as malicious actors can publish backdoored models that in…

报道来源 [1]

Z-PEFT: Zero-shot Backdoor Detection in Parameter-Efficient Fine-Tuning via Canonical Spectral Signatures

相关实体

相关话题