Anthropic 推出了一项名为“网络越狱严重性”（CJS）的新框架，旨在像 CVE 对软件漏洞进行分级一样，对 AI 越狱的危险性进行分类。该系统从 CJS-0（信息性）到 CJS-4（危急性）不等，根据能力提升、应用范围、武器化难易程度和可发现性来评估越狱。Anthropic 正在就此草案征求行业反馈，旨在标准化开发者和政府之间关于 AI 风险的沟通，并已启动 HackerOne 项目，供研究人员提交在其 Claude Fable 5 模型中发现的越狱。 AI
影响 该框架可以标准化向监管机构和开发者传达 AI 风险的方式，影响责任讨论和安全协议。
排序理由 主要 AI 实验室发布新的 AI 安全框架。[lever_c_降级自研究：ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
