实体
Cyber Jailbreak Severity
Cyber Jailbreak Severity
PulseAugur coverage of Cyber Jailbreak Severity — every cluster mentioning Cyber Jailbreak Severity across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Anthropic 详细介绍 Fable 5 越狱严重性等级和安全措施
Anthropic 详细介绍了其 Fable 5 模型新的网络越狱严重性 (CJS) 等级，引入了一个四级系统来对越狱尝试进行分类和评分。该等级从 0 到 4，评估的是已发现漏洞的严重性，而不是用户的提示本身。该公司还扩展了其安全措施，故意增加了误报率，以确保阻止恶意请求，这是开发人员在使用 Fable 5 时应注意的权衡。
-
AI巨头提议共享评级AI越狱严重性的等级
四家领先的AI公司Anthropic、Amazon、Microsoft和Google已合作提出一个名为“网络越狱严重性”（Cyber Jailbreak Severity, CJS）的标准化框架。该框架分为五个级别，从CJS-0到CJS-4，旨在区分AI越狱造成的实际危险，改变目前所有报告的越狱听起来都同样令人担忧的做法。该框架仅在越狱明显降低了执行有害任务所需的资源，且超出已公开可及的范围时，才优先考虑其严重性，旨在提高AI安全研究…