SolarChain-Eval

新基准评估AI代理在能源市场中的可信度

研究人员推出SolarChain-Eval，一个旨在评估在去中心化能源市场中运行的AI代理可信度的新基准。该基准纳入了物理约束，用于评估代理在市场效用之外的指标，包括物理安全性、滑点和可审计性。实验表明效用和安全性之间存在权衡，强化学习代理提高了效用但可能表现出不安全行为。基于LLM的规划/审计层可以提高可审计性并减轻一些风险，但不能完全弥补奖励函数定义不当的问题。