Financial Security Institute

新框架FFinRED旨在解决金融大模型安全风险

研究人员开发了FFinRED，一个专门用于评估金融领域大型语言模型（LLMs）安全性的新框架。该框架通过关注金融特有的风险，如监管合规违规和欺诈协助，解决了通用安全基准的局限性。FFinRED包含一个两级分类体系，将FATF和欧盟DORA等全球标准映射到潜在威胁，并利用一个管道将金融文件转换为红队测试提示。该系统已得到金融专家的验证，并正在韩国金融安全研究所的监管沙盒中部署。