EU DORA

新的FFinRED框架增强了金融大语言模型的安全评估

研究人员开发了FFinRED，一个用于金融大语言模型（LLMs）红队测试的新框架。这个专家指导系统通过关注金融特定风险（如监管合规违规和欺诈协助）来解决通用安全基准的局限性。FFinRED利用一个两级分类法，将FATF和欧盟DORA等全球标准映射到具体威胁，并将金融文件转换为LLM评估的行为提示。该框架包括一个专家验证的评分标准，提高了准确性并减少了假阴性，目前正在韩国金融安全研究所的监管沙盒中部署。