研究人员开发了一种名为审议式策展的新协议，用于管理由多个AI智能体创建的知识库。该协议解决了智能体无状态和谄媚等挑战，这些挑战是传统人类治理机制无法处理的。它包含一个知识制品生命周期、使用Beta声誉和EigenTrust的声誉加权投票，以及对智能体的分级制裁。模拟显示，与简单的多数投票相比，该协议在抵御对抗性行为方面具有更强的韧性，其中提交-揭示投票隐藏被证明是一个特别有效的组成部分。 AI
影响 该协议可以提高协作知识任务的AI系统的可靠性和韧性。
排序理由 这是一篇描述AI智能体新协议的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →