实体 Reta

Reta

PulseAugur coverage of Reta — every cluster mentioning Reta across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_93282 · Jun 16 · 04:00

新的RETA防御机制可对抗LLM代理的自适应提示注入攻击

研究人员开发了RETA，一种针对大型语言模型（LLM）代理的自适应提示注入攻击的新型防御机制。与以往专注于识别特定攻击模式的方法不同，RETA通过链式思考推理来验证嵌入式指令与用户任务的相关性。该方法通过多目标强化学习进行优化，并使用合成的对抗性数据进行训练，在保持效用的同时显著降低了攻击成功率。