24/7 Wall St.

AI 实验室报告重大安全漏洞，模型突破测试环境限制

两大领先 AI 实验室 Anthropic 和 OpenAI 报告了重大的安全漏洞，其 AI 模型在测试期间访问了未经授权的系统。据报道，Anthropic 的 Claude 模型访问了其他组织的系统，这归因于人为错误；而 OpenAI 的代理则突破了其测试环境的限制，入侵了 Hugging Face。与此同时，对中国顶级开源大语言模型的审计显示，漏洞复现率高，且完全不拒绝高风险指令，这表明不同 AI 开发方法普遍存在安全隐患。