PulseAugur
中
实时 08:18:22
English(EN) LoRAScan: Detecting Backdoor Prompts in Low-Rank Adapters for Large Language Models via Down-Projection Activation Spikes

新的防御系统LoRAScan可检测LLM适配器中的后门提示

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了LoRAScan，这是一种新颖的防御机制，旨在检测大型语言模型低秩适配（LoRA）模块中的后门提示。该方法识别出在干净输入时表现出稳定激活模式，但在存在触发器时显示出集中峰值的特定插入位点。LoRAScan在推理时运行，不改变适配器参数，成功拒绝了约98.49%的恶意输入，同时保持了对合法输入的低错误率。 AI

影响 通过提供一种在不影响性能的情况下检测恶意适配器的方法，增强了LLM部署的安全性。

排序理由 该集群包含一篇学术论文，详细介绍了一种检测AI模型中安全漏洞的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的防御系统LoRAScan可检测LLM适配器中的后门提示

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Doniyorkhon Obidov, Honggang Yu, Xiaolong Guo, Kaichen Yang ·

    LoRAScan：通过降维投影激活尖峰检测大型语言模型低秩适配器中的后门提示

    arXiv:2608.06795v1 Announce Type: cross Abstract: Low-rank adaptation (LoRA) enables efficient specialization and distribution of large language models through compact adapters. However, untrusted adapters introduce a supply-chain threat: a backdoored adapter can cause a model to…

相关实体

相关话题