一项新研究调查了大型语言模型 (LLM) 代理如何处理其推理中的不同类型的噪声。研究人员发现，与基于表示的更改（如重新格式化）相比，改变含义的扰动（如释义）对 LLM 代理的答案影响更大，即使在严重程度匹配的情况下也是如此。该研究在留出的模型上验证了这些发现，并提出了一个“隐匿性发散”机制，其中语义变化会影响中间推理步骤，从而导致不同的结果。 AI
影响 突出了 LLM 代理的一个关键漏洞，表明细微的语义变化会严重破坏推理过程。
排序理由 该集群包含一篇详细介绍 LLM 代理行为的实证研究论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2605.25981v1 Announce Type: new Abstract: We document an empirical phenomenon in chain-of-thought and ReAct agents driven by ten large language models from seven architecture families: meaning-bearing perturbations (e.g., paraphrase, synonym) alter final answers more often …
We document an empirical phenomenon in chain-of-thought and ReAct agents driven by ten large language models from seven architecture families: meaning-bearing perturbations (e.g., paraphrase, synonym) alter final answers more often than presentation perturbations (e.g., formattin…