Jailbreak Rating Framework

AI安全组织提议标准化越狱评级框架

Frontier Model Forum (FMF) 是一个由Anthropic、Google、Microsoft和OpenAI等公司组成的联盟，它引入了一个新的框架来评估AI越狱。该框架借鉴了通用漏洞评分系统(CVSS)，根据越狱的能力提升、范围、部署难易程度和发现难易程度进行评估。其目标是建立一个标准化的、跨供应商的评级系统，以帮助开发人员跟踪和减轻AI模型绕过其安全协议的风险。