研究人员开发了一种名为符号交换器(Symbolic Swapper)的新型对抗性攻击方法,用于探查大型语言模型(LLMs)在自动化规划任务中的漏洞。该方法系统地生成具有故意混淆的符号词汇的规划域,这可能导致LLM代理的规划性能下降超过70%。研究结果表明,即使存在基本的推理能力,LLM对某个域的感知理解与其在该域内有效规划的实际能力之间存在显著差距。 AI
影响 凸显了LLM规划能力的关键漏洞,表明需要更强大的代理架构。
排序理由 详细介绍LLM新型对抗性攻击方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →