研究人员开发了ToxScreen，这是一个旨在检测被投毒的大型语言模型（LLM）的新基准测试。该基准测试包含约800个后门模型，涵盖了各种攻击目标、触发机制和模型规模。研究发现，基于梯度的提示优化在恢复触发器方面无效，但通过攻击成功率对候选者进行排名的令牌查找方法可以在后门有效的情况下恢复触发器。研究还发现，后门通过不同于越狱的机制策略运作，这为防御者过滤越狱提供了一种方法。 AI
影响 为检测和缓解LLM中的数据投毒攻击提供了一个新的基准测试和方法，这对于高风险部署至关重要。
排序理由 该集群包含一篇学术论文，详细介绍了检测被投毒的大型语言模型的新基准测试和方法论。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2607.26849v1 Announce Type: cross Abstract: As large language models (LLMs) are deployed in high-stakes domains, adversaries may poison training data to implant backdoors: hidden triggers that covertly manipulate model behavior at inference time. We ask whether a defender c…
As large language models (LLMs) are deployed in high-stakes domains, adversaries may poison training data to implant backdoors: hidden triggers that covertly manipulate model behavior at inference time. We ask whether a defender can recover such a trigger under realistic affordan…