FraudBench

新的FraudBench基准测试AI银行智能体以应对自适应欺诈

研究人员推出了FraudBench，这是一个旨在测试银行环境中对话式AI智能体安全性的新基准。与关注静态交易或通用有害用途的现有基准不同，FraudBench专门评估这些智能体在对话中处理操纵身份、授权和信任的自适应欺诈企图的能力。该基准利用了双重控制框架和一个拥有大型策略语料库的银行环境，包含150个精心设计的对抗性场景。对四个智能体的初步评估显示，攻击-安全率在49%到65%之间，其中“人头账户”欺诈和“第一方”欺诈是常见的弱点。