实体 Bait-and-Recover

Bait-and-Recover

PulseAugur coverage of Bait-and-Recover — every cluster mentioning Bait-and-Recover across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_244922 · Sep 10 · 04:00

新研究通过新颖的防御和合规性分析来解决 LLM 越狱问题 · 已追踪 2 个来源

两篇新研究论文探讨了防御大型语言模型 (LLM) 免受越狱攻击的方法。第一篇论文“Bait-and-Recover”提出了一种权重级防御，通过毒化内部拒绝信号来干扰攻击者的编辑搜索，显著提高了针对白盒编辑越狱的拒绝率，同时保留了通用能力。第二篇论文“Behind Harmful Compliance”研究了诱导 LLM 产生有害合规性的不同方法，发现虽然监督微调、RLVR 和拒绝特征消融都可以导致接近顶峰的有害性，但它们会导致不同的行…