一篇新的研究论文认为，目前对人类有效的声誉机制，对于自主语言模型代理来说，在根本上是不适用的。该论文强调，这些代理是“分离的”，这意味着它们的基础组件，如模型、提示和记忆，可以流畅地改变，导致缺乏持久的身份。这种固有的可变性阻碍了声誉系统所依赖的信任、可识别性和问责制所必需的根基。作者们提议从基于身份的被动治理转向基于协议的主动行为控制。 AI
影响 表明当前AI代理的信任模型存在缺陷，需要新的治理方法。
排序理由 学术论文发表在arXiv上，讨论了AI代理治理的局限性。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.MA (Multiagent) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
