新的FraudBench基准测试AI银行智能体以应对自适应欺诈

研究人员推出了FraudBench，这是一个旨在测试银行环境中对话式AI智能体安全性的新基准。与关注静态交易或通用有害用途的现有基准不同，FraudBench专门评估这些智能体在对话中处理操纵身份、授权和信任的自适应欺诈企图的能力。该基准利用了双重控制框架和一个拥有大型策略语料库的银行环境，包含150个精心设计的对抗性场景。对四个智能体的初步评估显示，攻击-安全率在49%到65%之间，其中“人头账户”欺诈和“第一方”欺诈是常见的弱点。 AI

影响 该基准有望促使金融领域出现更强大、更安全的AI智能体，从而降低与欺诈相关的风险。

排序理由 该集群包含一篇研究论文，介绍了一个特定领域AI安全的新基准。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• CatalyzeX Code Finder for Papers
• DagsHub
• Dheeraj Mohandas Pai
• FraudBench
• Gotit.pub
• Hugging Face
• ScienceCast
• tau^2-Bench
• tau-Knowledge

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →