Sebastian Dziadzio

新基准测试可从行为中解码 AI 代理决策程序

研究人员开发了 RevengeBench，这是一个新的基准测试，旨在根据 AI 代理在游戏环境中观察到的行为来逆向工程其决策程序。该基准测试使用了来自 CodeClash 锦标赛的 75 个 LLM 生成的策略，允许学习者通过创建自定义对手策略来设计受控实验，从而引发目标 AI 的信息性行为。这种方法旨在提高策略的可解释性并实现对手建模，重建的策略显示出可衡量的竞争优势，特别是对于较弱的模型。