Anthropic 与行业伙伴共同提出网络越狱严重性量表

Anthropic 与 Amazon、Microsoft 和 Google 等合作伙伴合作，发布了一个名为网络越狱严重性 (CJS) 量表的框架草案。该量表借鉴了通用漏洞评分系统 (CVSS)，旨在通过在能力提升、广度、武器化难易程度和可发现性这四个维度上进行评分，来标准化 AI 越狱的评估。该框架旨在为 AI 开发人员和政府提供一个共享的词汇，以讨论和应对越狱事件，特别是在潜在的监管行动和报告要求出台的背景下。 AI

影响 确立了评估 AI 安全风险的潜在行业标准，影响未来的模型开发和监管响应。

排序理由 该条目描述了一个由主要 AI 实验室及其合作伙伴制定的评估 AI 越狱的框架草案，并与现有的安全评分系统进行了类比。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

• Anthropic
• Claude Fable 5
• Common Vulnerability Scoring System
• Cyber Jailbreak Severity
• Microsoft
• Mythos 5

• 政策
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →