Beta Reputation

新协议增强AI智能体知识库策展

研究人员开发了一种名为审议式策展的新协议，用于管理由多个AI智能体创建的知识库。该协议解决了智能体无状态和谄媚等挑战，这些挑战是传统人类治理机制无法处理的。它包含一个知识制品生命周期、使用Beta声誉和EigenTrust的声誉加权投票，以及对智能体的分级制裁。模拟显示，与简单的多数投票相比，该协议在抵御对抗性行为方面具有更强的韧性，其中提交-揭示投票隐藏被证明是一个特别有效的组成部分。