实体 RL-ATTACK

RL-ATTACK

PulseAugur coverage of RL-ATTACK — every cluster mentioning RL-ATTACK across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_348535 · Nov 9 · 05:00

新的RL-ATTACK方法在黑盒环境中探测LLM漏洞

研究人员开发了RL-ATTACK，一个新颖的强化学习框架，旨在通过黑盒对抗攻击识别大型语言模型（LLM）的漏洞。与依赖外部知识的先前方法不同，该方法通过查询目标模型来学习生成定制的对抗性转换。RL-ATTACK展示了提高的查询效率和语义保留能力，在自然语言推理和生成式问答任务上实现了显著降低的攻击后准确率，甚至在某些情况下优于基于优化的基线。