Holmström

新博弈测试多智能体语言模型中的合作失败

研究人员开发了一个新框架——对话道德风险博弈（Dialogue Moral Hazard Game），用于研究多智能体语言模型中的合作失败。该博弈实现了Holmström的团队道德风险模型，其中智能体可以承担成本来揭示对他人有利的信息。对七个开源模型的评估表明，许多智能体优先考虑即时的局部奖励，而不是有成本的信息共享，即使经过优化，团队成功的改进也并不总是与预期的合作机制相关联。