PulseAugur
中
实时 08:07:05
实体 Bayesian adversarial replay pool

Bayesian adversarial replay pool

PulseAugur coverage of Bayesian adversarial replay pool — every cluster mentioning Bayesian adversarial replay pool across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_364050 ·

    新的LLM安全框架应对不断演变的对抗性攻击 · 跟踪2个来源

    两篇新的研究论文介绍了用于增强大型语言模型(LLM)安全对齐的高级对抗性协同进化框架。第一个,DACE,通过为攻击者采用归一化的边际覆盖增益奖励,为防御者采用贝叶斯对抗性回放池,来解决攻击策略崩溃和防御对抗性遗忘问题。第二个,MACE,利用蒙特卡洛树搜索来指导攻击者和防御者策略,将搜索转化为学习信号,并构建一个时间不对称的课程。两种方法都旨在提高LLM在不断演变的对抗性攻击下的鲁棒性,同时保留通用能力,其中MACE与基线防御相比,平均…