FullSovereign

新基准评估个人AI代理的用户主权和协商能力

研究人员推出了两个新的基准测试，SovereignPA-Bench和SovereignNegotiation-Bench，旨在评估个人AI代理。这些基准测试侧重于评估代理维护用户主权的能力，包括尊重隐私、同意和证据，同时也要推进用户的利益。评估超越了简单的任务完成，考察代理如何处理不断变化的用户意图、平台中介以及潜在的操纵性激励，特别是在协商场景中。