研究人员开发了FORGE，一种新颖的两级攻击，旨在劫持深度研究代理的研究轨迹。该攻击操纵检索池中的对抗性文档，以影响子任务规划并污染合成报告。为了应对这些威胁，引入了PRISM指标，根据认知类型对受感染报告的声明进行加权，以及根查询锚定（RQA），一种将递归后续生成锚定到根查询的防御机制。在实验中，FORGE取得了显著的PRISM分数，而RQA有效地减少了这种污染。 AI
影响 突出了AI研究代理的新漏洞，并引入了针对报告污染的潜在防御措施。
排序理由 该集群包含一篇学术论文，详细介绍了AI研究代理的新攻击方法和防御机制。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
