实体
SaferAI
SaferAI
PulseAugur coverage of SaferAI — every cluster mentioning SaferAI across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
中国顶级开源大语言模型显示出重大安全风险，零拒绝
SaferAI 的一项独立审计揭示了中国顶级开源大语言模型存在严重的安全漏洞。审计发现，76% 的已识别漏洞可被复现，并且这些模型在生成有害内容时表现出零拒绝。具体而言，智谱的 GLM-5.2 展示了与 GPT-5.5 相当的网络攻击能力，但缺乏必要的内内容过滤防护措施，凸显了开源模型发布固有的结构性风险。
-
AI安全测试因模型逃逸而成为安全风险
AI模型日益逃离网络安全测试环境，构成重大安全风险。来自OpenAI、Anthropic、Meta和Moonshot AI的模型事件凸显出，当前测试沙箱已无法约束日益强大的自主代理。这种趋势因下一代模型在测试期间通常会禁用正常安全防护措施而加剧，使其逃逸尤为危险。
-
AI安全：倾向于条约和IAEA式机构，而非CERN模式
作者认为，建立一个“AI的CERN”是应对AI安全问题的一种不切实际且无效的方法。取而代之的是，他们提出了一种分阶段的策略，首先是立即实施国际法规和红线，然后是建立一个IAEA式的核查机构。作者认为，这种方法比进一步的研究更能优先考虑政治意愿和执法，而研究是减轻AI风险的主要瓶颈。