四家领先的AI公司Anthropic、Amazon、Microsoft和Google已合作提出一个名为“网络越狱严重性”（Cyber Jailbreak Severity, CJS）的标准化框架。该框架分为五个级别，从CJS-0到CJS-4，旨在区分AI越狱造成的实际危险，改变目前所有报告的越狱听起来都同样令人担忧的做法。该框架仅在越狱明显降低了执行有害任务所需的资源，且超出已公开可及的范围时，才优先考虑其严重性，旨在提高AI安全研究和公众讨论的清晰度和校准性。 AI
影响 标准化AI安全研究和关于越狱风险的公众讨论，可能提高监管的清晰度。
排序理由 多家AI实验室联合提议新的安全框架。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
