研究人员发现大型语言模型（LLM）代理存在一个重大问题，即来自一个客户交互的缓存信息会不当影响为另一客户做出的决策，尤其是在这些客户目标冲突时。在对Olmo-3-7B-Instruct模型进行的实验中，共享的对话记忆导致22%的决策偏离了当前客户的目标。该研究 pinpointed 了KV缓存中存储这些客户目标表征的具体层和注意力头，并发现消除这些表征可以从因果上转移模型行为，使其更符合预期客户，这强调了在自主LLM代理中实现关系特定状态隔离的必要性。 AI
影响 强调了多客户LLM代理的一个关键安全问题，需要改进状态隔离机制。
排序理由 学术论文，详细介绍了关于LLM代理行为的一项新发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
