Trust--Agreement Gap

LLM代理在多方谈判中难以建立信任

一项新的研究论文探讨了涉及大型语言模型（LLM）代理的重复多方谈判中信任的挑战。该研究提出了一个框架，代理可以从中形成并使用过去的互动所产生的信任估计。虽然具有信任意识的代理可以识别对手，但研究发现了一个“信任-协议差距”，表明准确的信任估计并不能自动带来更好的谈判结果。该论文提出，明确指导代理在决策中使用信任，可以将协议达成率提高多达23个百分点，这凸显了信任评估和应用方式的关键作用。